Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как сложилась судьба советского солдата, который не хотел воевать: трагическая история знаменитой фотографии Как сложилась судьба советского солдата, который не хотел воевать: трагическая история знаменитой фотографии

Слышали ли вы о путешествиях этого снимка?

Популярная механика
Почему эмпатам так сложно любить себя Почему эмпатам так сложно любить себя

Эмпатия — дар, но дар непростой

Psychologies
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Как вырастить детей с высоким эмоциональным интеллектом Как вырастить детей с высоким эмоциональным интеллектом

Почему так важно развивать эмоциональный интеллект в наших детях

Psychologies
«Они живут до 33-34 лет. Возраст Христа»: Эвелина Бледанс об особенном сыне «Они живут до 33-34 лет. Возраст Христа»: Эвелина Бледанс об особенном сыне

Эвелина Блёданс объяснила, почему не стесняется говорить о болезни сына

Cosmopolitan
Рассказ из сборника «Сибирь: счастье за горами» Рассказ из сборника «Сибирь: счастье за горами»

Отрывок из сборника рассказов, посвященных Сибири

СНОБ
Ученые обнаружили самую тусклую сверхновую типа Iax Ученые обнаружили самую тусклую сверхновую типа Iax

Чем уникальны сверхновые типа Iax?

N+1
«Прошлой ночью в Сохо»: коктейль из «Полночи в Париже» и «Неонового демона» «Прошлой ночью в Сохо»: коктейль из «Полночи в Париже» и «Неонового демона»

Стоит ли смотреть ностальгический джалло-хоррор от Эдгара Райта

Cosmopolitan
Физика черных списков: к чему приведет попадание МФТИ под санкции США Физика черных списков: к чему приведет попадание МФТИ под санкции США

МФТИ попал в американский черный список конечных военных пользователей

Forbes
«Структура нашей торговли скоро сильно изменится» «Структура нашей торговли скоро сильно изменится»

В русле глобальной декарбонизации Япония надеется на взаимодействие с Россией

Эксперт
Почему бедность — это удобно Почему бедность — это удобно

Как люди загоняют себя в «мир бедных» и почему некоторые не могут выбраться?

СНОБ
«Вширь и вверх: как облачная телефония помогает бизнесу расти не только географически, но и финансово» «Вширь и вверх: как облачная телефония помогает бизнесу расти не только географически, но и финансово»

Как облачная телефония влияет на бизнес?

Inc.
Том Хоппер: «Из спортзала я выхожу счастливым» Том Хоппер: «Из спортзала я выхожу счастливым»

Том Хоппер рассказал нам, как его успокаивает штанга, и поделился рецептом пиццы

Cosmopolitan
Турецкая справедливость для африканского континента Турецкая справедливость для африканского континента

Как и зачем Турция стала приоритетным стратегическим партнером Африки

Эксперт
«Свекровь тайно подменяла смесью мое грудное молоко, так как считает его грязным» «Свекровь тайно подменяла смесью мое грудное молоко, так как считает его грязным»

Кормление грудью все еще остается табуированной темой в обществе

Psychologies
Разочаровали: звездные селфи без макияжа, которые никому не понравились Разочаровали: звездные селфи без макияжа, которые никому не понравились

Селфи звезд без макияжа, которые разочаровали подписчиков

Cosmopolitan
Совпадений нет Совпадений нет

Достичь гармонии реально – если оба партнера постараются

Cosmopolitan
Яндекс создал три мощнейших в России суперкомпьютера Яндекс создал три мощнейших в России суперкомпьютера

Яндекс рассказал о создании трех мощнейших в России суперкомпьютеров

N+1
Российские ученые передали квантовый сигнал вместе с классическим по одному оптоволокну Российские ученые передали квантовый сигнал вместе с классическим по одному оптоволокну

Российские ученые осуществили квантовую генерацию ключей

N+1
Как удалить Windows 10: четыре простых способа Как удалить Windows 10: четыре простых способа

Разбираем, как удалить Windows 10 без дополнительного софта

CHIP
Почему измена не повод для развода Почему измена не повод для развода

Почему измена помогает обоим партнерам стать лучше?

Psychologies
Физики измерили толщину нейтронной кожи ядра никеля Физики измерили толщину нейтронной кожи ядра никеля

Толщина нейтронной кожи ядра никеля поможет разобраться в нейтронных звездах

N+1
Скандал разгорается: стало известно, из чего состоит поддельное мясо тунца в сэндвичах Subway Скандал разгорается: стало известно, из чего состоит поддельное мясо тунца в сэндвичах Subway

Subway обманывала своих клиентов, которые отказывались от мяса?

Популярная механика
Московский год Лжедмитрия I Московский год Лжедмитрия I

Москвичи встретили Лжедмитрия I колокольным звоном, а вскоре растерзали его

Дилетант
Каково это — перенести трансплантацию пениса Каково это — перенести трансплантацию пениса

Том Мэннинг — первый американец, которому провели трансплантацию пениса

Esquire
Какие страны начнут третью мировую войну: 6 самых возможных сценариев Какие страны начнут третью мировую войну: 6 самых возможных сценариев

Любой, даже самый незначительный конфликт может перерасти в третью мировую войну

Maxim
Из предпринимателя в инвесторы: как вложить первый $1 млн и сделать правильные выводы Из предпринимателя в инвесторы: как вложить первый $1 млн и сделать правильные выводы

Венчурные инвестиции — способ расширить свои предпринимательские навыки

Forbes
Во имя сына: каким получился новый альбом Адель «30» Во имя сына: каким получился новый альбом Адель «30»

Как сделана пластинка Адель «30», сумела ли певица оправдать ожидания?

Esquire
10 предметов из фильмов и сериалов, которые останавливали пулю 10 предметов из фильмов и сериалов, которые останавливали пулю

Или что такое «карманный защитник» и как его эксплуатирует кинематограф

Maxim
В теле человека обнаружены десятки ранее неизвестных соединений-антибиотиков В теле человека обнаружены десятки ранее неизвестных соединений-антибиотиков

Устойчивые к антибиотикам бактерии могут стать серьезной угрозой для здоровья

Популярная механика
Открыть в приложении