Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Играя на гармошке: как на народном инструменте заработать 300 млн рублей в год Играя на гармошке: как на народном инструменте заработать 300 млн рублей в год

Как предприятие по производству гармошек и баянов снова приносит миллионы?

Forbes
Учёные оценили время жизни одиночного нейтрона Учёные оценили время жизни одиночного нейтрона

Время жизни одиночного нейтрона составляет 887 секунд

Популярная механика
Как завести бензопилу после зимовки — готовим инструмент к началу сезона Как завести бензопилу после зимовки — готовим инструмент к началу сезона

Делимся инструкцией, как завести бензопилу после простоя

CHIP
Китайские генетики нашли предков шерпов в долине реки Хуанхэ Китайские генетики нашли предков шерпов в долине реки Хуанхэ

Китайские генетики исследовали геномы 628 шерпов

N+1
Глава из дебютного романа Светланы Тюльбашевой «Лес» Глава из дебютного романа Светланы Тюльбашевой «Лес»

Роман о кошмарах, которые скрываются не только в темных северных лесах

СНОБ
Александр «Чача» Иванов Александр «Чача» Иванов

Ветеран панк-рока рассказал о своих отношениях со спиртным, религией и музыкой

Maxim
Вспоминаем дефицитные деликатесы, которые в СССР «выбрасывали» на прилавки к 7 Ноября Вспоминаем дефицитные деликатесы, которые в СССР «выбрасывали» на прилавки к 7 Ноября

В условиях дефицита все эти изыски покупали в ноябре и запасали до Нового года

Maxim
Приянка Чопра-Джонас: «Я хватаюсь за любую возможность» Приянка Чопра-Джонас: «Я хватаюсь за любую возможность»

Приянка Чопра-Джонас рассказала о том, как она справляется со всем своими делами

Cosmopolitan
Серая зона отказа: понимаем ли мы слово «нет» Серая зона отказа: понимаем ли мы слово «нет»

Исследование продемонстрировало неоднозначное отношение мужчин к отказу

СНОБ
Всем тем, кому сложно говорить «нет» Всем тем, кому сложно говорить «нет»

Как научиться отказывать?

Psychologies
Какая ж ты зараза: что делать с герпесом на губах Какая ж ты зараза: что делать с герпесом на губах

Что нужно знать о герпесе на губах?

РБК
Как родительские запреты могут портить нам жизнь Как родительские запреты могут портить нам жизнь

Бывает, человек вырос в хорошей семье, но его взрослая жизнь летит под откос

Psychologies
Муаровая сверхрешетка помогла настроить спин атома железа Муаровая сверхрешетка помогла настроить спин атома железа

Электронными и спиновыми свойствами атомов железа можно управлять

N+1
Николай Цискаридзе: те, кого он любил Николай Цискаридзе: те, кого он любил

Николай Цискаридзе — талант, влюбленность в искусство и бойцовский характер

СНОБ
6 книг про искусственный интеллект — о том, что готовит нам будущее 6 книг про искусственный интеллект — о том, что готовит нам будущее

Книги, которые расскажут об умных роботах и tech-перспективах на ближайшие годы

Популярная механика
Революционер, музыкант, психиатр. Анна Ветлугина, Дмитрий Максименко: «Кащенко» Революционер, музыкант, психиатр. Анна Ветлугина, Дмитрий Максименко: «Кащенко»

Отрывок из биографии Петра Петровича Кащенко

СНОБ
Как построить личный бренд: 7 правил успеха Арнольда Шварценеггера Как построить личный бренд: 7 правил успеха Арнольда Шварценеггера

Чему ты можешь научиться у "железного Арни"

Playboy
Спроси VC: почему стартапу не нужна свободная конкуренция Спроси VC: почему стартапу не нужна свободная конкуренция

Почему стартапу важно занимать доминирующее положение в важных для бизнеса нишах

Forbes
Задать жару Задать жару

Хого – горячее блюдо, которое подают на праздники для большой компании

Вокруг света
Анна Седокова: «Я обвиняла себя в том, что рожала детей от разных мужчин!» Анна Седокова: «Я обвиняла себя в том, что рожала детей от разных мужчин!»

Певица Анна Седокова рассказала о причинах драматичных переживаний в жизни

Cosmopolitan
Вырезал сцены с сигаретами и алкоголем и привёз сериал из Японии в США: история Альфреда Кана, популяризовавшего Pokémon Вырезал сцены с сигаретами и алкоголем и привёз сериал из Японии в США: история Альфреда Кана, популяризовавшего Pokémon

Альфред Кан покупал лицензии на игрушки и добивался их всемирной известности

VC.RU
Синдром Кесслера: как человечество может на столетия лишиться доступа к космическому пространству Синдром Кесслера: как человечество может на столетия лишиться доступа к космическому пространству

Мы приближаемся к сценарию, в котором человечество будет отрезано от космоса

Популярная механика
Цифровое бессмертие: что будет с аккаунтами в iCloud и соцсетях после смерти Цифровое бессмертие: что будет с аккаунтами в iCloud и соцсетях после смерти

Что такое цифровое "наследство"?

Playboy
Как вывести пятна от пота в домашних условиях Как вывести пятна от пота в домашних условиях

Как удалить пятна пота с одежды светлых и темных оттенков

VOICE
Не убивай кожу! Почему массаж гуаша на самом деле опасен Не убивай кожу! Почему массаж гуаша на самом деле опасен

Массаж гуаша так уж он и прост!

Cosmopolitan
Эксперт рассказал, какие позы для сна выбирают пары с самыми крепкими отношениями Эксперт рассказал, какие позы для сна выбирают пары с самыми крепкими отношениями

А ты спишь кабанчиком или ложечками?

Playboy
Соединить экологию с экономикой Соединить экологию с экономикой

Как принципы ESG могут изменить современное производство

РБК
Особый взгляд Особый взгляд

Подборка психологических книг, помогающих разобраться в себе и окружающих

Psychologies
Непутевые заметки: Уэс Андерсон от А до Я. Письма, сладости, Хичкок Непутевые заметки: Уэс Андерсон от А до Я. Письма, сладости, Хичкок

Путеводитель по мелочам из фильмов Уэса Андерсона

Esquire
Книги для саморазвития, которые помогут вам стать лучше Книги для саморазвития, которые помогут вам стать лучше

Книги по повышению продуктивности в бизнесе, общении, саморазвитии

Популярная механика
Открыть в приложении