Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кухонный психолог Кухонный психолог

Как помочь близким, решившим тебе довериться, и не навредить

Лиза
5 самых дорогих вещей из знаменитых научно-фантастических фильмов и сериалов 5 самых дорогих вещей из знаменитых научно-фантастических фильмов и сериалов

Самые дорогие кинематографические реликвии

Популярная механика
Люди на пределе Люди на пределе

Возможности нашего собственного, среднестатистического тела

Вокруг света
«Вайфшеринг»: Истории 3 девушек, которые легально изменяют своим мужьям «Вайфшеринг»: Истории 3 девушек, которые легально изменяют своим мужьям

Некоторые мужчины возбуждаются от того, что им изменяют

Playboy
«Где оскорбленному есть чувству уголок». Почему сограждане особенно ранимы, когда дело касается фото на фоне храмов «Где оскорбленному есть чувству уголок». Почему сограждане особенно ранимы, когда дело касается фото на фоне храмов

Почему верующих оскорбляют фото, а не постоянные унижения со стороны власти?

СНОБ
Во имя сына: каким получился новый альбом Адель «30» Во имя сына: каким получился новый альбом Адель «30»

Как сделана пластинка Адель «30», сумела ли певица оправдать ожидания?

Esquire
Космические дожди: опасно ли это для человека Космические дожди: опасно ли это для человека

Земля подвергается космической бомбардировке…

Популярная механика
Безопасные инвестиции. Что надо знать новичку на фондовом рынке Безопасные инвестиции. Что надо знать новичку на фондовом рынке

Чем руководствоваться, чтобы старт в инвестициях оказался эффективным?

СНОБ
Компьютер не видит жесткий диск: что делать? Компьютер не видит жесткий диск: что делать?

Почему компьютер не видит жесткий диск и как решить эту проблему?

CHIP
Ресурсы человека: что это такое и как их восполнить Ресурсы человека: что это такое и как их восполнить

Что такое внутренние ресурсы, помогающие нам оставаться полными сил и энергии

Cosmopolitan
5 минутные детективы 5 минутные детективы

Архивные пятиминутные детективы

Esquire
Утопия или повседневность? Почему рано говорить о метавселенных Утопия или повседневность? Почему рано говорить о метавселенных

Откуда взялась идея metaverse, что она из себя представляет?

Популярная механика
White Punk – о провинции, индустрии и воссоединении YungRussia White Punk – о провинции, индустрии и воссоединении YungRussia

Интервью с White Punk – о прошлом и настоящем рэп-музыки

GQ
Александра Черкасова-Служитель о Павле Прилучном, новом фильме и буллинге Александра Черкасова-Служитель о Павле Прилучном, новом фильме и буллинге

Интервью с Александрой Черкасовой-Служитель

Cosmopolitan
«Сломить кулацкий саботаж» «Сломить кулацкий саботаж»

Постановление политбюро ЦК КП(б) Украины от 27 ноября 1932 года

Дилетант
Не .G единой Не .G единой

Главные буквы алфавита сексуального удовольствия

Playboy
Как богатые американцы передают наследство детям и законно не платят 40% налога — на примере основателя Nike Как богатые американцы передают наследство детям и законно не платят 40% налога — на примере основателя Nike

Как Филип Найт обошел закон и оставил детям миллиарды?

VC.RU
«Нечего надеть»: почему мы так часто недовольны своей одеждой «Нечего надеть»: почему мы так часто недовольны своей одеждой

Почему нам кажется, что надеть нечего, если каждая вешалка занята?

Psychologies
Почему кошек в древности считали магическими животными? Почему кошек в древности считали магическими животными?

Почему именно кошки не оставляют людей равнодушными?

Cosmopolitan
Что это за зверь — тестостерон: 10 фактов о гормоне мужественности Что это за зверь — тестостерон: 10 фактов о гормоне мужественности

Как определить пониженный тестостерон, и на что этот гормон влияет

Playboy
Смертельный номер: каким получился «Французский вестник» Уэса Андерсона Смертельный номер: каким получился «Французский вестник» Уэса Андерсона

«Французский вестник» — самый усталый фильм Уэса Андерсона

РБК
Домашняя арт–галерея Домашняя арт–галерея

Новый проект студии «Детали» — колоритный современный интерьер

SALON-Interior
Как перестать беспокоиться о том, что думают другие Как перестать беспокоиться о том, что думают другие

Как перестать волноваться из-за мнений окружающих по поводу вашей персоны

Psychologies
Одна вокруг света: красное море и вездесущие велосипедисты Одна вокруг света: красное море и вездесущие велосипедисты

Красное море в Латинской Америке и неожиданные препятствия

Forbes
Как на самом деле выглядят пакистанские невесты: фото с макияжем и без Как на самом деле выглядят пакистанские невесты: фото с макияжем и без

Свадебная красота из Пакистана. Здешние бьюти-традиции отличаются от наших!

Cosmopolitan
Как отключить быструю зарядку и зачем это нужно Как отключить быструю зарядку и зачем это нужно

Функция быстрой зарядки нужна не всегда и зачастую она лишь вредит аккумулятору

CHIP
Триллер о кибербуллинге. Чан Хо-Кей: «Вторая сестра» Триллер о кибербуллинге. Чан Хо-Кей: «Вторая сестра»

Отрывок из триллера Чан Хо-Кей «Вторая сестра»

СНОБ
Ольга Кабо: «Я могла стать первой актрисой в космосе» Ольга Кабо: «Я могла стать первой актрисой в космосе»

Ольга Кабо о школе, детских мечтах и неизменной любви к кино

Лиза
Культурные коды экономики: почему в России существуют две разные страны Культурные коды экономики: почему в России существуют две разные страны

Почему Россию все время бросает в разные крайности?

Forbes
Истории поиска product/market fit от основателей Netflix, Uber, Airbnb и других успешных компаний Истории поиска product/market fit от основателей Netflix, Uber, Airbnb и других успешных компаний

Как понять, что вы нашли product/market fit?

VC.RU
Открыть в приложении