Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Искусство передвижения мостов: опыт Москвы Искусство передвижения мостов: опыт Москвы

Как перемещали мосты в Москве

Популярная механика
Павел Антокольский Павел Антокольский

Поэт Павел Антокольский глазами Дмитрия Быкова

Дилетант
За люриком под парусами За люриком под парусами

Странные чувства теребят меня после очередной северной экспедиции

Наука и жизнь
Зачем дети по всей Мексике принесли в школы скелеты? Зачем дети по всей Мексике принесли в школы скелеты?

2 ноября в Мексике отмечают особый праздник — День мертвых

Psychologies
Действительно ли салемских ведьм сжигали на костре Действительно ли салемских ведьм сжигали на костре

Правда ли ведьм и колдунов в XVII сжигали на кострах?

Популярная механика
Как понять, что у тебя есть проблемы со стилем — 7 неочевидных признаков Как понять, что у тебя есть проблемы со стилем — 7 неочевидных признаков

Главные модные ошибки, которые мешают выглядеть стильно

Cosmopolitan
Материнская плата для майнинга: как выбрать лучший вариант? Материнская плата для майнинга: как выбрать лучший вариант?

Как не ошибиться при покупке материнской платы

CHIP
Праздник каждый день Праздник каждый день

Как развлечь ребенка (и себя заодно) перед Новым годом?

Cosmopolitan
Скорпион или Дева: самый милый знак зодиака среди женщин Скорпион или Дева: самый милый знак зодиака среди женщин

Какой знак зодиака самый милый у женщин

Cosmopolitan
Развод, потеря веса и отношения с отцом-алкоголиком: певица Адель дала интервью Опре Развод, потеря веса и отношения с отцом-алкоголиком: певица Адель дала интервью Опре

Американская телеведущая Опра Уинфри взяла интервью у Адель

Forbes
Миссионерская поза и 240 дней воздержания: как занимались сексом в Средневековье Миссионерская поза и 240 дней воздержания: как занимались сексом в Средневековье

Правда ли, что в Средневековье секс был под запретом почти 240 дней в году?

Psychologies
Как маме с новорожденным ребенком позаботиться о себе Как маме с новорожденным ребенком позаботиться о себе

Как найти время для себя родившей маме

Psychologies
Опять женатый: что делать, если тебе всё время встречаются несвободные мужчины Опять женатый: что делать, если тебе всё время встречаются несвободные мужчины

Почему все интересные мужчины оказываются несвободными?

Cosmopolitan
Почему программа льготной ипотеки не разогреет загородный рынок недвижимости Почему программа льготной ипотеки не разогреет загородный рынок недвижимости

Участники рынка считают, что программа является первым шагом для разворота рынка

Forbes
Что сейчас все смотрят на Netflix: 10 самых популярных сериалов Что сейчас все смотрят на Netflix: 10 самых популярных сериалов

Какие проекты Netflix пользуется наибольшим успехом в России

Cosmopolitan
Как стартап Gatik доставляет товары на грузовиках без водителя Как стартап Gatik доставляет товары на грузовиках без водителя

За рулем грузовиков нет водителей — они самостоятельно курсируют по маршруту

Forbes
По мусорному ведру: 10+ историй о том, как женщины вычислили измену По мусорному ведру: 10+ историй о том, как женщины вычислили измену

Читательницы о том, как они узнали об измене своей второй половинки

Cosmopolitan
Кривой мизинец и плохая память: как гаджеты меняют тело и организм человека Кривой мизинец и плохая память: как гаджеты меняют тело и организм человека

Гаджеты облегчили нашу жизнь, но ценой проблем со здоровьем

Playboy
Ослабить физическую боль и депрессию, сжечь жир — как улучшить своё самочувствие с помощью холода Ослабить физическую боль и депрессию, сжечь жир — как улучшить своё самочувствие с помощью холода

Эффекты холодной воды, которые помогут прокачать тело и сбалансировать психику

VC.RU
Как бывший консультант McKinsey в 27 лет возглавил сервис «Яндекс.Еда» Как бывший консультант McKinsey в 27 лет возглавил сервис «Яндекс.Еда»

Генеральный директор «Яндекс.Еды» — как ему удалось быстро вырасти в корпорации?

Forbes
Биоархеологи обнаружили жертв последней чумы Имолы Биоархеологи обнаружили жертв последней чумы Имолы

Ученые раскопали останки 133 человек, умерших в 1630–1632 годах от чумы

N+1
Компьютер не видит жесткий диск: что делать? Компьютер не видит жесткий диск: что делать?

Почему компьютер не видит жесткий диск и как решить эту проблему?

CHIP
Везет же некоторым… Везет же некоторым…

Почему нас порой так раздражает чужой успех и бесят счастливые люди

Лиза
Неблагородные рыцари: почему «Последняя дуэль» — лучший фильм Ридли Скотта со времен «Гладиатора» Неблагородные рыцари: почему «Последняя дуэль» — лучший фильм Ридли Скотта со времен «Гладиатора»

Ридли Скотт объединяет юношескую энергию и седую мудрость в «Последней дуэли»

Esquire
Субмарины с пушками. История самого нелепого проекта британского флота Субмарины с пушками. История самого нелепого проекта британского флота

После Первой мировой войны британцы решили, что им нужны подлодки с пушками

Maxim
Разочаровали: звездные селфи без макияжа, которые никому не понравились Разочаровали: звездные селфи без макияжа, которые никому не понравились

Селфи звезд без макияжа, которые разочаровали подписчиков

Cosmopolitan
Живой детектор лжи: агент секретной службы США о мышлении пуленепробиваемых людей Живой детектор лжи: агент секретной службы США о мышлении пуленепробиваемых людей

Отрывок из книги «Стань неуязвимым» о том, как научиться распознавать ложь

Forbes
Правила проезда перекрестков: нюансы, о которых водители забыли (+штрафы) Правила проезда перекрестков: нюансы, о которых водители забыли (+штрафы)

В таких местах водители нарушают ПДД чаще всего

РБК
Горный перевал: как Toyota Land Cruiser 300 справился с дорогами в Дагестане Горный перевал: как Toyota Land Cruiser 300 справился с дорогами в Дагестане

Toyota представила новую версию легендарного Land Cruiser с дизельным двигателем

Forbes
Время сказок Время сказок

Почему дети так любят сказки, стоит ли выбирать только «старые добрые» сказки

Домашний Очаг
Открыть в приложении