Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чернобыльское досье КГБ Чернобыльское досье КГБ

Украинская власть за последние годы рассекретила огромный массив документов КГБ

Дилетант
Провал Zillow на $500 млн — ошибка в расчетах гиганта индустрии или убыточная бизнес-модель? Провал Zillow на $500 млн — ошибка в расчетах гиганта индустрии или убыточная бизнес-модель?

Автоматизированная покупка и продажа жилья — плохая идея?

Inc.
«Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду» «Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду»

Почему главред Nature опубликовал работу, постулирующую эффективность гомеопатии

N+1
Источники питания Источники питания

Что такое ресурс, зачем он нужен и как соотносится с заботой о себе?

Glamour
Четыре способа понять, что вы мыслите слишком узко Четыре способа понять, что вы мыслите слишком узко

Системное мышление дает возможность посмотреть на ситуацию шире

Inc.
Опростоволосились: 9 роковых красавиц, которых испортил блонд Опростоволосились: 9 роковых красавиц, которых испортил блонд

Звезды, решившиеся на блонд, который оказался им не к лицу

VOICE
Углекислый газ выступил катализатором получения амидов Углекислый газ выступил катализатором получения амидов

Ученые предложили экологичный и дешевый метод переамидирования

N+1
Барыня из «Муму»: почему мать Тургенева ненавидели все, включая сына Барыня из «Муму»: почему мать Тургенева ненавидели все, включая сына

Сказка про Золушку, в которой хеппи-энда не получилось

Cosmopolitan
21 песня, которая поможет тебе притвориться интеллектуалом 21 песня, которая поможет тебе притвориться интеллектуалом

Обязательно заводи эти песни своим девушкам и работодателям

Maxim
Минное поле: как говорить с партнерами о своих бывших и стоит ли? Минное поле: как говорить с партнерами о своих бывших и стоит ли?

Кто как относится к своим романам из прошлого?

Cosmopolitan
Всем тем, кому сложно говорить «нет» Всем тем, кому сложно говорить «нет»

Как научиться отказывать?

Psychologies
«Игра в кальмара» и другие фильмы на Netflix, с которыми нужно быть осторожнее «Игра в кальмара» и другие фильмы на Netflix, с которыми нужно быть осторожнее

В некоторых странах просмотр этих фильмов запрещен — вплоть до смертной казни

Playboy
«Узнала, что у меня меланома 4 стадии»: как я победила неизлечимый рак «Узнала, что у меня меланома 4 стадии»: как я победила неизлечимый рак

Рак кожи, меланома — всегда приговор?

Cosmopolitan
Его запах бесит: 5 признаков, что вашим отношениям пришел конец Его запах бесит: 5 признаков, что вашим отношениям пришел конец

Вот подсказки, которые помогут тебе понять: пора расстаться

Cosmopolitan
Своевольные булгарии Своевольные булгарии

Булгария пачкающая — интересный и по-своему красивый сумчатый гриб

Наука и жизнь
Анна Пескова. По другую сторону экрана Анна Пескова. По другую сторону экрана

Анна Пескова — о другой стороне экрана

Коллекция. Караван историй
Минералка без газа и кофе с маслом: что пить на интервальном голодании Минералка без газа и кофе с маслом: что пить на интервальном голодании

Можно ли пить и что именно во время интервального голодания?

Cosmopolitan
«Я не могла контролировать свое тело»: Адель о похудении, разводе и алкоголизме «Я не могла контролировать свое тело»: Адель о похудении, разводе и алкоголизме

Адель — о браке, алкоголизме, материнстве и музыке

Cosmopolitan
Радио «Дача» Радио «Дача»

Тейлор Хилл купила сруб в музыкальной столице США и аранжирует его на свой вкус

Tatler
10 захватывающих фильмов и сериалов о  женщинах, перевернувших мир 10 захватывающих фильмов и сериалов о  женщинах, перевернувших мир

Фильмы и сериалы, которые лучше всего показывают женщин-лидеров

Cosmopolitan
Почему ногти на руках растут быстрее, чем на ногах Почему ногти на руках растут быстрее, чем на ногах

Замечали ли вы, что ногти на ваших руках растут быстрее, чем на ногах?

Популярная механика
Идеальная жена идеального мужа Идеальная жена идеального мужа

Фасадные браки – не завидуй!

Лиза
«Черная пятница» в разгаре: что покупают россияне и в чем подвох «Черная пятница» в разгаре: что покупают россияне и в чем подвох

Краткая занимательная статистика «Черной пятницы» в России

Playboy
Когда мы будем летать на аэротакси, как Брюс Уиллис в Когда мы будем летать на аэротакси, как Брюс Уиллис в

Какое аэротакси ожидает нас в ближайшем будущем?

Популярная механика
У человечества нет плана «Б»: Петр Коваленко рассказывает, почему важна экомода У человечества нет плана «Б»: Петр Коваленко рассказывает, почему важна экомода

Экомода — новый тренд, о котором мы слышим всё чаще

Cosmopolitan
Монетный сор: что не так с созданной последователями Дурова криптовалютой Toncoin Монетный сор: что не так с созданной последователями Дурова криптовалютой Toncoin

Что такое Toncoin и что с ней не так?

Forbes
5 странных поводов для ареста в Японии 5 странных поводов для ареста в Японии

В России на эти преступления не обратили бы внимания. Но не в Японии

Лиза
Последний ход Ивана Грозного Последний ход Ивана Грозного

Последнее, что увидел в жизни Иван Грозный, — это шахматы

Дилетант
«Метан там давно зашкаливал». Что известно о взрыве на шахте в Кемерово, где погибли более 50 человек «Метан там давно зашкаливал». Что известно о взрыве на шахте в Кемерово, где погибли более 50 человек

На угольной шахте «Листвяжная» в Белове Кемеровской области произошел взрыв

СНОБ
Эмоции мешают думать: чему можно научиться у Майкла Корлеоне Эмоции мешают думать: чему можно научиться у Майкла Корлеоне

Чему можно научиться у мафиози Майкла Корлеоне

Esquire
Открыть в приложении