CHIPHi-Tech

Тренды > Искусственный интеллект

Роботы и закон

Автономные машины скоро будут брать на себя все больше работы и принимать решения. Но кто же будет нести ответственность, если искусственный интеллект причинит ущерб? Вопрос остается открытым.

Когда после полудня 7 июля 2015 года техник Ванда Х. зашла в секцию 140 сборочной линии автозавода в американском штате Мичиган, она стала делать то, что делала всегда, — проводить стандартные работы по техническому обслуживанию сварочного робота. Но внезапно соседний робот оказался в ее рабочей зоне, чтобы смонтировать сцепное приспособление. Все произошло настолько неожиданно, что Ванда не смогла вовремя среагировать: робот настолько тяжело ранил женщину в голову, что прибывшие санитары смогли только констатировать смерть.

До сих пор неясно, что именно привело к этому несчастному случаю. Смежные секции были отделены от места трагедии надежными дверями, машины остановлены, а в том креплении, на которое нацелился робот, уже были установлены муфты. Иными словами, есть масса причин, по которым робот не должен был делать то, что он сделал. И тем не менее это произошло. Кроме того, непонятно, кто должен отвечать за гибель техника. Чтобы это выяснить, овдовевший супруг погибшей подает иски ко всем пяти компаниям, которые имеют хотя бы какое-то отношение к роботу: от производителя до обслуживающей фирмы.

Число роботов будет расти

Хотя случаи, когда люди получают травмы или даже гибнут по вине роботов, пока еще достаточно редки, в будущем их число возрастет — хотя бы потому, что в будущем будет массированно увеличиваться присутствие роботов в рабочей и повседневной сфере (см. график).

Это в первую очередь касается дорожного движения: кто окажется виноватым, если алгоритм автономного автомобиля неверно оценит маневр при обгоне, не заметит велосипедиста или повредит другой автомобиль при парковке? Пользователь авто? Производитель? Или и вовсе программист? Хотя при продвижении автономных транспортных средств автопроизводители в первую очередь делают акцент на безопасности, и под управлением компьютера происходят аварии, что показал случай в швейцарском городке Сьон. Там в сентябре 2016 года автономный почтовый автобус не заметил открытой задней двери грузовика и зацепил ее, проезжая мимо. Человек, выполнявший функцию второго водителя на стадии тестирования автобуса, мог применить экстренное торможение, но он тоже неправильно оценил ситуацию. И как раз из-за этого второго пилота из плоти и крови с точки зрения ответственности за ущерб не было различия с «нормальным» почтовым автомобилем, о чем сообщила в ответ на запрос эксплуатирующая организация Postauto Schweiz AG. Ущерб, причиненный грузовику, был возмещен по страхованию гражданской ответственности. Тем не менее компания Postauto Schweiz AG заявила, что «ситуацию нужно будет оценить заново, если законом будут разрешены автономные автобусы без сопровождающего лица».