Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Победа в очередной битве с раком мозга осталась за учеными Победа в очередной битве с раком мозга осталась за учеными

Эти препараты побуждают иммунные клетки съедать клетки злокачественных опухолей

Популярная механика
Рогохвост… предприимчивый Рогохвост… предприимчивый

Пленником янтаря оказалось крайне редкое насекомое

Наука и жизнь
«Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду» «Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду»

Почему главред Nature опубликовал работу, постулирующую эффективность гомеопатии

N+1
Скучно не будет: 7 оригинальных идей для тематической вечеринки Скучно не будет: 7 оригинальных идей для тематической вечеринки

Список идей для яркой и незаезженной тематической вечеринки

Playboy
Квантовая копия личности: будем ли мы вживлять микрочипы в мозг ради бессмертия Квантовая копия личности: будем ли мы вживлять микрочипы в мозг ради бессмертия

Отрывок из книги «Искусственный ты: машинный интеллект и будущее нашего разума»

Forbes
Женский стендап: Ирина Мягкова и Зоя Яровицына Женский стендап: Ирина Мягкова и Зоя Яровицына

Комики «Женского стендапа» рассказали, каково это — шутить по графику

Glamour
Вес слова Вес слова

Если карьера не задалась, у вас есть реальный шанс стать преуспевающим спикером

Forbes
На Большом адронном коллайдере измерили силу взаимодействия протонов с φ-мезонами На Большом адронном коллайдере измерили силу взаимодействия протонов с φ-мезонами

Результаты исследования могут помочь понять свойства вакуума хромодинамики

N+1
В поисках утраченной В поисках утраченной

Какому Деду Морозу писать письма, чтобы вернуть нашу радость обратно?

Cosmopolitan
Не убивай кожу! Почему массаж гуаша на самом деле опасен Не убивай кожу! Почему массаж гуаша на самом деле опасен

Массаж гуаша так уж он и прост!

Cosmopolitan
Лубянская машина времени. Почему наследники Дзержинского решили ликвидировать «Мемориал»* Лубянская машина времени. Почему наследники Дзержинского решили ликвидировать «Мемориал»*

Россию невозможно вернуть в эпоху «самого вкусного в мире мороженого»

СНОБ
Сиенские супруги Сиенские супруги

Джанноддза Сарачени и Мариотто Миньянелли жили и друг друга любили в Сиене

Наука и жизнь
Раскулачить Маска: кому не дают покоя деньги богатейшего человека мира Раскулачить Маска: кому не дают покоя деньги богатейшего человека мира

Кто предлагает поделить деньги Маска и есть ли они у него?

Forbes
Женщина года: бремя первых Женщина года: бремя первых

Что будет, если в одной комнате окажутся сразу две женщины года?

Glamour
Мадонна, Деми Мур, Шер: как старели бы звезды без пластической хирургии Мадонна, Деми Мур, Шер: как старели бы звезды без пластической хирургии

Как выглядели бы звезды, если бы предпочли держаться подальше от хирургов

Cosmopolitan
Андрей Писарев: «Ожидания у всех одинаковые — выгода и уникальность» Андрей Писарев: «Ожидания у всех одинаковые — выгода и уникальность»

Будущее рынка — в усилении персонализации, развитии подписочной модели

РБК
“Зеленый” подросток: может ли молодое поколение спасти мир “Зеленый” подросток: может ли молодое поколение спасти мир

Для молодого поколения “зеленая” повестка занимает особое место в жизни

Популярная механика
Почему женщины ненавидят: что такое женская мизогиния и как она влияет на гендерное равенство Почему женщины ненавидят: что такое женская мизогиния и как она влияет на гендерное равенство

Мизогиния: в чем причина неприязни женщин друг к другу?

Esquire
Великолепная тридцатка и вратарь Великолепная тридцатка и вратарь

Владимир Зеленский — о перевороте и о захвате

СНОБ
Уйти и не сдаваться Уйти и не сдаваться

От чего и куда бежит Уэс Андерсон

Weekend
Почему Царь-пушка – вовсе не пушка: что на самом деле стоит в Кремле Почему Царь-пушка – вовсе не пушка: что на самом деле стоит в Кремле

История Царь-пушки не заканчивается на анекдотах. Оказывается, это даже не пушка

ТехИнсайдер
Лазерное сканирование леса поможет спрогнозировать урожай черники и брусники Лазерное сканирование леса поможет спрогнозировать урожай черники и брусники

Скоро можно будет строить карты концентрации ягод в лесу

N+1
Природный феномен Природный феномен

Роль искусства в этом доме играют пейзажи за окном

AD
XVII век Фокс представляет: взорви парламент или стань легендой, пытаясь XVII век Фокс представляет: взорви парламент или стань легендой, пытаясь

О самом известном заговоре в английской... да что там, во всемирной истории!

Maxim
Тест: Чего вы хотите на самом деле, когда мечтаете о деньгах? Тест: Чего вы хотите на самом деле, когда мечтаете о деньгах?

А какая у вас мотивация зарабатывать? Пройдя тест, вы узнаете ответ

Psychologies
Женщина умерла от сепсиса, потому что врачи отказались прерывать беременность Женщина умерла от сепсиса, потому что врачи отказались прерывать беременность

Инцидент получил огласку и сразу же вызвал жесточайший общественный резонанс

Cosmopolitan
Что такое фолиевая кислота и чем она полезна: 6 научных фактов Что такое фолиевая кислота и чем она полезна: 6 научных фактов

Чем еще полезен витамин B9 и в каких продуктах он содержится

РБК
Нормы красоты Нормы красоты

Какие проблемы сегодня актуальны для индустрии красоты?

Forbes Life
Дэя: «Эстрада - сказка, в которой мне всегда хотелось жить» Дэя: «Эстрада - сказка, в которой мне всегда хотелось жить»

Родители, заметив мою способность, подумали: из нее точно получится певица

Караван историй
Елена Брусилова: «У людей появилась мотивация быть здоровыми» Елена Брусилова: «У людей появилась мотивация быть здоровыми»

Президент ГК «Медси» Елена Брусилова о том, как изменилась частная медицина

РБК
Открыть в приложении