Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Археологи обнаружили два поселения эпохи бронзы в Нижегородской области Археологи обнаружили два поселения эпохи бронзы в Нижегородской области

Археологи раскопали два поселения эпохи бронзы

N+1
«Воздушные ворота Ленинграда»: как строился аэровокзал «Пулково» — модернистское здание 70-х, получившее в народе прозвище «пять стаканов» «Воздушные ворота Ленинграда»: как строился аэровокзал «Пулково» — модернистское здание 70-х, получившее в народе прозвище «пять стаканов»

Отрывок из книги «Ленинград: архитектура советского модернизма. 1955−1991»

Esquire
Топ-5: лучшие игры на ПК в 2021 году Топ-5: лучшие игры на ПК в 2021 году

Лучшие игры, вышедшие для ПК по состоянию на 1 августа 2021 года

CHIP
«Работать настолько приятно, что деньги неважны»: кем был создатель «теории потока» Михай Чиксентмихайи «Работать настолько приятно, что деньги неважны»: кем был создатель «теории потока» Михай Чиксентмихайи

История американского психолога Михая Чиксентмихайи

VC.RU
Как женщины-режиссеры борются за место в индустрии в России и мире Как женщины-режиссеры борются за место в индустрии в России и мире

Отрывок из книги Анжелики Артюх «Кинорежиссерки в современном мире»

Forbes
Зубная боль: как защититься от некачественных материалов у стоматолога Зубная боль: как защититься от некачественных материалов у стоматолога

Какие технологии чаще всего подделывают в стоматологиях?

Популярная механика
Деликатес из Африки: в чем польза кускуса и как его готовить Деликатес из Африки: в чем польза кускуса и как его готовить

Разбираемся, что такое кускус и чем он полезен для здоровья

РБК
Рацион для похудения мужчины: как убрать «прежних ошибок груз» Рацион для похудения мужчины: как убрать «прежних ошибок груз»

Диета для мужчин: как убрать живот и бока

Cosmopolitan
Где твоя маска? Где твоя маска?

О масочном режиме, введенном среди людей, испытывающих боль славы

Harper's Bazaar
Как улучшить свою жизнь за 10 дней Как улучшить свою жизнь за 10 дней

Вот что можно успеть сделать для формирования привычки уже за десять дней

Psychologies
«Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД «Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД

Что раздражает инспекторов ГИБДД на дороге и как отучить автомобилистов нарушать

РБК
Как отключить быструю зарядку и зачем это нужно Как отключить быструю зарядку и зачем это нужно

Функция быстрой зарядки нужна не всегда и зачастую она лишь вредит аккумулятору

CHIP
Действительно ли темная тема на компьютере экономит заряд батареи Действительно ли темная тема на компьютере экономит заряд батареи

Поможет ли переход на темную тему продлить работу ПК?

Популярная механика
Стены без окон и другие хитрости: как магазины заставляют нас тратить деньги Стены без окон и другие хитрости: как магазины заставляют нас тратить деньги

Как нас заставляют терять контроль и покупать то, что нам не нужно?

Psychologies
А ты умеешь? Как правильно ходить – объясняет эксперт А ты умеешь? Как правильно ходить – объясняет эксперт

Оказывается, ходить нужно не только много и часто, но и правильно

VOICE
Преодоление Преодоление

Остаться один на один с горем: как найти в себе силы жить дальше?

Tatler
Кембрийские приапулиды оказались древнейшими обитателями пустых раковин Кембрийские приапулиды оказались древнейшими обитателями пустых раковин

Черви прятались в раковинах от хищников уже более 500 миллионов лет назад

N+1
Как искусственный интеллект помогает обслуживать клиентов Как искусственный интеллект помогает обслуживать клиентов

Анатолий Попов — о влиянии цифровизации на развитие продуктовой линейки

Forbes
Стримеры в Китае зарабатывают миллиарды в день: как это работает и когда закончится Стримеры в Китае зарабатывают миллиарды в день: как это работает и когда закончится

Китайские инфлюенсеры бьют рекорды по продажам товаров через прямые эфиры

Forbes
Диета «Секреты Лос-Анджелеса»: худеем как звезды Голливуда Диета «Секреты Лос-Анджелеса»: худеем как звезды Голливуда

Этой диеты придерживаются голливудские звезды, чтобы быстро прийти в форму

Cosmopolitan
Как неправильный шарф может испортить образ: популярные ошибки и их решение Как неправильный шарф может испортить образ: популярные ошибки и их решение

Шарф — не только способ утеплиться, но и важный элемент стиля

Cosmopolitan
Как убрать бока: эффективные упражнения и советы эксперта Как убрать бока: эффективные упражнения и советы эксперта

Как уменьшить объемы в районе талии с помощью питания и тренировок

РБК
Как мосметро использует машинное обучение для оценки загруженности вагонов Как мосметро использует машинное обучение для оценки загруженности вагонов

Оценка загруженности вагонов: как оно работает и при чем здесь машинное обучение

Популярная механика
Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов

Уроки «Додо» из экспансии на перенасыщенный пиццериями рынок Великобритании

Inc.
К сожаленью, день рожденья К сожаленью, день рожденья

Личные праздники в этом году были очень сильно декорированы

Tatler
Особый взгляд Особый взгляд

Подборка психологических книг, помогающих разобраться в себе и окружающих

Psychologies
Зелёный свет Зелёный свет

Как «Светофор» положил начало гонке дискаунтеров

РБК
YouTube-шоу, мерч и квесты: кто заработал на хайпе вокруг «Игры в кальмара» YouTube-шоу, мерч и квесты: кто заработал на хайпе вокруг «Игры в кальмара»

Сколько предприниматели и блогеры заработали на «Игре в кальмара»

Forbes
«Отсутствие силы воли помогло мне чего-то добиться в жизни». Интервью с ресторатором и телеведущим Дмитрием Левицким «Отсутствие силы воли помогло мне чего-то добиться в жизни». Интервью с ресторатором и телеведущим Дмитрием Левицким

Предприниматель и телеведущий рассказал о пользе лени

СНОБ
Наполеон III: тень дяди-корсиканца Наполеон III: тень дяди-корсиканца

Племянник Наполеона I отчаянно пытался обрести славу великого полководца

Дилетант
Открыть в приложении