Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стрим: Как все вокруг стало прямой трансляцией и позволило нам во всем участвовать, оставаясь в стороне Стрим: Как все вокруг стало прямой трансляцией и позволило нам во всем участвовать, оставаясь в стороне

Почему люди выбирают наблюдать за событием, а не участвовать в нем напрямую?

Weekend
Сила притяжения Сила притяжения

Эдгардо Озорио – о моде, транслирующей энергию счастья на максимальной громкости

Harper's Bazaar
10 современных технологий, придуманных очень давно 10 современных технологий, придуманных очень давно

Новых идей в принципе не существует

Популярная механика
Шум катеров с бензиновыми двигателями помешал матерям-гриндам отдыхать и кормить детенышей Шум катеров с бензиновыми двигателями помешал матерям-гриндам отдыхать и кормить детенышей

Как катера с бензиновыми двигателями влияют на гринд

N+1
Веселые кошки: 5 смешных историй о питомцах Веселые кошки: 5 смешных историй о питомцах

Владельцы рассказали о самых забавных историях с их питомцами

Playboy
Зачем наши бабушки чистили ковры снегом: 3 важных причины повторить их опыт Зачем наши бабушки чистили ковры снегом: 3 важных причины повторить их опыт

Снег или химчистка: чем лучше чистить ковер?

Cosmopolitan
Кожа, шпон и роботы: где и как производят Aurus Кожа, шпон и роботы: где и как производят Aurus

Как производят самые передовые автомобили России

РБК
«Хотим быть как она». Двойники Адель повально начали худеть «Хотим быть как она». Двойники Адель повально начали худеть

Трибюьт-актрисы начали избавляться от веса, чтобы сохранить сходство с Адель

Cosmopolitan
Нейроинженер научил крыс играть в Doom: видео Нейроинженер научил крыс играть в Doom: видео

Нейроинженер построил виртуальную реальность для крыс и научил их играть в DOOM

National Geographic
Найден первый гренландский динозавр Найден первый гренландский динозавр

214 миллионов лет назад на территории Гренландии жил двуногий динозавр

National Geographic
Секретный ингредиент Секретный ингредиент

Какими блюдами любят баловать себя знаменитости?

Лиза
8 типов прыщей, которые нельзя давить никому и никогда 8 типов прыщей, которые нельзя давить никому и никогда

Можно ли давить самостоятельно и какие прыщи категорически нельзя трогать

Cosmopolitan
Виргинский опоссум Виргинский опоссум

Подкупить опоссума можно только уважением, терпением и любовью. И едой, конечно

Weekend
«Ростсельмаш» расширит выпуск тракторов «Ростсельмаш» расширит выпуск тракторов

Компания «Ростсельмаш» строит новый тракторный завод полного цикла

Агроинвестор
Оценивали в $1 млрд, а продадут за $300 млн: почему развалился бизнес магазина матрасов Casper Оценивали в $1 млрд, а продадут за $300 млн: почему развалился бизнес магазина матрасов Casper

История Casper: фирма хотела стать Nike в индустрии сна, но не смогла

VC.RU
От Мадонны до Агилеры: звезды с «уехавшими» имплантами От Мадонны до Агилеры: звезды с «уехавшими» имплантами

Даже самые известные пластические хирурги могут сделать работу некачественно

Cosmopolitan
10 иллюзий, с которыми нужно расстаться во взрослой жизни 10 иллюзий, с которыми нужно расстаться во взрослой жизни

Иллюзии, что поддерживали нас в детстве, в старшем возрасте только мешают

Psychologies
Гвоздь, или Еще одна загадка человеческого мозга Гвоздь, или Еще одна загадка человеческого мозга

Жизнь Леши разделилась на до и после того, как ему исполнилось пять лет

СНОБ
Государства, которые просуществовали несколько дней Государства, которые просуществовали несколько дней

Не все страны могут похвастаться многовековой историей

Maxim
Муаровый магнитный порядок нашли в скрученном трииодиде хрома Муаровый магнитный порядок нашли в скрученном трииодиде хрома

Физики увидели в трииодиде хрома ферромагнитные и антиферромагнитные участки

N+1
Лучшие квесты на ПК: топ-5 легендарных игр Лучшие квесты на ПК: топ-5 легендарных игр

5 игр-квестов, прохождение которых надолго отпечатается у вас в голове

CHIP
Сколько свободного времени нам нужно для счастья Сколько свободного времени нам нужно для счастья

Какое оптимальное количество свободного времени в сутках?

Psychologies
12 предприимчивых мужчин 12 предприимчивых мужчин

Как 12 очень хитрых и богатых людей попытались изменить правила игры

Playboy
Убила мужа, провела в тюрьме 18 лет и… счастлива: история Патриции Гуччи Убила мужа, провела в тюрьме 18 лет и… счастлива: история Патриции Гуччи

Кем была «черная вдова» семьи Гуччи

Cosmopolitan
Тетушка Тильда, которая помнит все Тетушка Тильда, которая помнит все

«Память»: первый англоязычный фильм Апичатпонга Вирасетакуна

Weekend
Объединяющее злорадство: почему люди участвуют в кибербуллинге Объединяющее злорадство: почему люди участвуют в кибербуллинге

Почему люди проявляют агрессию в Интернете, что они чувствуют в этот момент?

Forbes
Подавленные эмоции: почему они мешают жить и как с этим справиться Подавленные эмоции: почему они мешают жить и как с этим справиться

Подавленные эмоции — это настоящий ящик Пандоры

СНОБ
Употребление кофе и чая снижает риск инсульта и деменции Употребление кофе и чая снижает риск инсульта и деменции

Употребление чая и кофе связано с пониженным риском инсульта, ишемии и деменции

National Geographic
Парный разряд Парный разряд

Дебютное интервью глянцу от Даниила и Дарьи Медведевых

Tatler
Певица года: Манижа Певица года: Манижа

Манижа показала российскому обществу его лицо

Glamour
Открыть в приложении