Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Не .G единой Не .G единой

Главные буквы алфавита сексуального удовольствия

Playboy
10 современных технологий, придуманных очень давно 10 современных технологий, придуманных очень давно

Новых идей в принципе не существует

Популярная механика
Тизнаос: самодельные испанские броневики времен Гражданской войны Тизнаос: самодельные испанские броневики времен Гражданской войны

Тизнаос — алмаз самодельных броневиков Испании

Популярная механика
Дрон с электронным хоботом унюхал запахи в труднодоступных местах Дрон с электронным хоботом унюхал запахи в труднодоступных местах

Электронный нос с десятиметровой трубкой позволит анализировать запах

N+1
Разнообразие как ключ к счастливой и осмысленной жизни Разнообразие как ключ к счастливой и осмысленной жизни

Говорят, разнообразие придает жизни вкус. Но что конкретно мы можем сделать?

Psychologies
Музыка не для TikTok: каким получился новый альбом Адель «30» Музыка не для TikTok: каким получился новый альбом Адель «30»

Почему возвращение певицы Адель — важное музыкальное событие?

Forbes
35 вещей, которые нас возбуждают 35 вещей, которые нас возбуждают

Эти вещи возбуждают с первого взгляда.

Maxim
Гвоздь, или Еще одна загадка человеческого мозга Гвоздь, или Еще одна загадка человеческого мозга

Жизнь Леши разделилась на до и после того, как ему исполнилось пять лет

СНОБ
О чем думают девушки, когда занимаются сексом на одну ночь? О чем думают девушки, когда занимаются сексом на одну ночь?

Какие подводные камни кроются за согласием «просто разок поехать к тебе»

Maxim
Как утопия ушла в монастырь Как утопия ушла в монастырь

Проект Григория Ревзина «Оправдание утопии». Санкт-галленский план

Weekend
Сиенские супруги Сиенские супруги

Джанноддза Сарачени и Мариотто Миньянелли жили и друг друга любили в Сиене

Наука и жизнь
Стесняюсь спросить: что такое джиротоник и зачем его практиковать? Стесняюсь спросить: что такое джиротоник и зачем его практиковать?

Загадочный термин «джиротоник» нечасто услышишь даже в кругах продвинутых людей

Esquire
Старение — это эволюционная ошибка. Ученые уверены, что его можно избежать Старение — это эволюционная ошибка. Ученые уверены, что его можно избежать

Старение — естественный процесс или ошибка?

Популярная механика
Елена Брусилова: «У людей появилась мотивация быть здоровыми» Елена Брусилова: «У людей появилась мотивация быть здоровыми»

Президент ГК «Медси» Елена Брусилова о том, как изменилась частная медицина

РБК
Опасности метавселенных: что прогнозируют фантасты Опасности метавселенных: что прогнозируют фантасты

Книги о том, какие опасности могут сулить метавселенные

Популярная механика
Вырезал сцены с сигаретами и алкоголем и привёз сериал из Японии в США: история Альфреда Кана, популяризовавшего Pokémon Вырезал сцены с сигаретами и алкоголем и привёз сериал из Японии в США: история Альфреда Кана, популяризовавшего Pokémon

Альфред Кан покупал лицензии на игрушки и добивался их всемирной известности

VC.RU
Кейс LASERWAR: как запустить производство игрушечных винтовок в Смоленске и наладить экспорт в 75 стран Кейс LASERWAR: как запустить производство игрушечных винтовок в Смоленске и наладить экспорт в 75 стран

Как братья изучили лазертаг от и до и открыли производство игровых винтовок

Inc.
Как на иголках Как на иголках

Чего мы не понимаем об акупунктуре

N+1
Чего хотят звезды: самые желанные женщины России о сексе и отношениях Чего хотят звезды: самые желанные женщины России о сексе и отношениях

Звезды рассказывают, как снискать успех даже у гиперпопулярных женщин

Maxim
Джеймс Бонд и СССР Джеймс Бонд и СССР

«Агент 007» никогда не обращал оружия против СССР

Дилетант
Компании ещё не отправили человека на Марс, но уже думают, как поделить планету на епархии и обустроить тюрьмы Компании ещё не отправили человека на Марс, но уже думают, как поделить планету на епархии и обустроить тюрьмы

Технологии для Марса могут улучшить строительство и производства на Земле

VC.RU
10 вещей, которые сильнее всего бесят в соцсетях 10 вещей, которые сильнее всего бесят в соцсетях

Каждый день мы заходим в соцсети, оставляя там частичку душевного здоровья

Maxim
Нюхай апельсины, полюби лаванду: 5 привычек, которые изменят жизнь к лучшему Нюхай апельсины, полюби лаванду: 5 привычек, которые изменят жизнь к лучшему

Каждая из этих привычек поможет тебе изменить жизнь к лучшему в рекордные сроки

Cosmopolitan
Какая ж ты зараза: что делать с герпесом на губах Какая ж ты зараза: что делать с герпесом на губах

Что нужно знать о герпесе на губах?

РБК
Диетолог из Гарварда назвала 5 продуктов, которые стоит исключить из рациона Диетолог из Гарварда назвала 5 продуктов, которые стоит исключить из рациона

Диетолог Ума Найду: продукты, которые стоит избегать

Inc.
Николай Цискаридзе: те, кого он любил Николай Цискаридзе: те, кого он любил

Николай Цискаридзе — талант, влюбленность в искусство и бойцовский характер

СНОБ
Взлом без кражи Взлом без кражи

Британский Центр правительственной связи в поместье Блетчли-парк

Дилетант
Скотленд-Ярд Скотленд-Ярд

Исторический дом в Лондоне с шотландскими и русскими мотивами в интерьере

AD
6 признаков того, что вы стали жертвой газлайтинга 6 признаков того, что вы стали жертвой газлайтинга

Какие методы используют газлайтеры?

Psychologies
Открыть в приложении