Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нулевая ступень Нулевая ступень

Весной 2019 года в небо поднялся самолет с самыми большими крыльями в истории

Популярная механика
Эпидемия незавершенных дел: как научиться доводить начатое до конца Эпидемия незавершенных дел: как научиться доводить начатое до конца

О том, как научиться доводить начатое до конца

Inc.
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
В каких продуктах много витамина А В каких продуктах много витамина А

Витамин А выполняет множество важных функций в организме

РБК
Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов

Уроки «Додо» из экспансии на перенасыщенный пиццериями рынок Великобритании

Inc.
Степные коньки сменили места зимовок в тропической Азии на Средиземноморье Степные коньки сменили места зимовок в тропической Азии на Средиземноморье

Мелкие певчие птицы с равнин Сибири нашли новое место для зимовки

N+1
Лучшие квесты на ПК: топ-5 легендарных игр Лучшие квесты на ПК: топ-5 легендарных игр

5 игр-квестов, прохождение которых надолго отпечатается у вас в голове

CHIP
Роман в дневниках. Анна Матвеева: «Каждые сто лет» Роман в дневниках. Анна Матвеева: «Каждые сто лет»

Истории двух женщин, которых разделяют сто лет

СНОБ
Как формат изакая-бар попал из Японии в Москву и почему стал таким популярным Как формат изакая-бар попал из Японии в Москву и почему стал таким популярным

Японский формат баров, которые называют изакая, успешно работает в Москве

Forbes
Найден способ превращать воду, солнечный свет и CO2 в чистый керосин Найден способ превращать воду, солнечный свет и CO2 в чистый керосин

Система, которая может производить топливо из солнечного света и воздуха

Популярная механика
Как придуманные экс-сотрудниками Google роботы помогают американскому здравоохранению Как придуманные экс-сотрудниками Google роботы помогают американскому здравоохранению

Как стартап Infinitus Systems помогает работникам сферы здравоохранения?

Forbes
Что посмотреть: 11 лучших фильмов про сны Что посмотреть: 11 лучших фильмов про сны

Раскрыть секрет происхождения сновидений берутся создатели кино

Playboy
Из предпринимателя в инвесторы: как вложить первый $1 млн и сделать правильные выводы Из предпринимателя в инвесторы: как вложить первый $1 млн и сделать правильные выводы

Венчурные инвестиции — способ расширить свои предпринимательские навыки

Forbes
«Поколение «сэндвич»: почему людям в возрасте 45-65 лет не хватает времени на себя «Поколение «сэндвич»: почему людям в возрасте 45-65 лет не хватает времени на себя

Отрывок из книги «Поколение «сэндвич»: почему не стоит хвалить за таланты

Forbes
Железная ферма Сэма Дила: необычные скульптуры Железная ферма Сэма Дила: необычные скульптуры

Живет в жаркой австралийской глубинке веселый человек по имени Сэм Дил

Популярная механика
«Я не в ресурсе»: 7 простых способов это исправить «Я не в ресурсе»: 7 простых способов это исправить

Как восполнить свой энергетический заряд, чтобы «быть в ресурсе»?

Psychologies
Сложно обнаружить, еще сложнее вылечить: как я заболела туберкулезом Сложно обнаружить, еще сложнее вылечить: как я заболела туберкулезом

В последние годы туберкулез перестал быть болезнью асоциальных слоев населения

Cosmopolitan
Урок черчения Урок черчения

Хочешь научиться скульптурировать лицо с помощью косметики?

Лиза
Древнеримская фигурка борца оказалась африканским воином Древнеримская фигурка борца оказалась африканским воином

Свинцовая фигурка I века нашей эры изображала африканского воина

N+1
Старение — это эволюционная ошибка. Ученые уверены, что его можно избежать Старение — это эволюционная ошибка. Ученые уверены, что его можно избежать

Старение — естественный процесс или ошибка?

Популярная механика
Если вы не смотрели «Наследников», то настоятельно рекомендуем. Потому что это лучшая драма современного телевидения Если вы не смотрели «Наследников», то настоятельно рекомендуем. Потому что это лучшая драма современного телевидения

Почему «Наследники» — лучший учебник по тому, как устроена современная Америка

Esquire
Пигментация кожи: как избавиться от темных пятен Пигментация кожи: как избавиться от темных пятен

С чем связано появление темных участков кожи, как предотвратить этот процесс?

РБК
Лыжи, природные арки и икра морских ежей: 20 вещей, которые нужно сделать на Сахалине Лыжи, природные арки и икра морских ежей: 20 вещей, которые нужно сделать на Сахалине

Сценариев покорения Сахалина миллион, но мы продегустировали его на свой лад

Playboy
Я подарю тебе сердце: какие органы можно напечатать на биопринтере Я подарю тебе сердце: какие органы можно напечатать на биопринтере

Что представляет собой процесс биопечати

Популярная механика
Физика черных списков: к чему приведет попадание МФТИ под санкции США Физика черных списков: к чему приведет попадание МФТИ под санкции США

МФТИ попал в американский черный список конечных военных пользователей

Forbes
Электрошок: прошлое и настоящее Электрошок: прошлое и настоящее

Так ли страшна процедура электрошока на самом деле?

Psychologies
Кровавый долг и кровная месть. Отрывок из книги врача-гематолога Кровавый долг и кровная месть. Отрывок из книги врача-гематолога

Книга гематолога «История крови. От первобытных ритуалов к научным открытиям»

СНОБ
Анна Седокова: «Я обвиняла себя в том, что рожала детей от разных мужчин!» Анна Седокова: «Я обвиняла себя в том, что рожала детей от разных мужчин!»

Певица Анна Седокова рассказала о причинах драматичных переживаний в жизни

Cosmopolitan
На CBS показали концерт Адель и ее интервью Опре Уинфри. Певица исполнила песни с альбома «30», а также рассказала о разводе с мужем и потере веса На CBS показали концерт Адель и ее интервью Опре Уинфри. Певица исполнила песни с альбома «30», а также рассказала о разводе с мужем и потере веса

Певица Адель призналась, что узнала о проблемах в браке из теста в журнале

Esquire
Вырезал сцены с сигаретами и алкоголем и привёз сериал из Японии в США: история Альфреда Кана, популяризовавшего Pokémon Вырезал сцены с сигаретами и алкоголем и привёз сериал из Японии в США: история Альфреда Кана, популяризовавшего Pokémon

Альфред Кан покупал лицензии на игрушки и добивался их всемирной известности

VC.RU
Открыть в приложении