Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стрит-арт, внимание, марш Стрит-арт, внимание, марш

Ярко-красочный Sollers ST6, который будто создан для художников

Автопилот
21 песня, которая поможет тебе притвориться интеллектуалом 21 песня, которая поможет тебе притвориться интеллектуалом

Обязательно заводи эти песни своим девушкам и работодателям

Maxim
Топ-5: лучшие игры на ПК в 2021 году Топ-5: лучшие игры на ПК в 2021 году

Лучшие игры, вышедшие для ПК по состоянию на 1 августа 2021 года

CHIP
Это Элви Рэй Смит: он мечтал создать анимационный фильм на компьютере, соосновал Pixar, но ушёл из компании из-за Джобса Это Элви Рэй Смит: он мечтал создать анимационный фильм на компьютере, соосновал Pixar, но ушёл из компании из-за Джобса

Элви Рэй Смит убеждал всех, что за компьютерной графикой будущее

VC.RU
6 различий между умными и мудрыми людьми 6 различий между умными и мудрыми людьми

Возможно, куда полезнее быть не умным, а мудрым?

Psychologies
Сколько приносит майнинг-ферма в месяц? Окупаемость и доходность Сколько приносит майнинг-ферма в месяц? Окупаемость и доходность

Обустройство фермы для майнинга Ethereum

CHIP
Везет же некоторым… Везет же некоторым…

Почему нас порой так раздражает чужой успех и бесят счастливые люди

Лиза
«Счастье — это реальность минус ожидания». Интервью о психологии семьи «Счастье — это реальность минус ожидания». Интервью о психологии семьи

Автор книги «Поколение "сэндвич"» — о счастье и языке между поколениями

РБК
Тест: Чего вы хотите на самом деле, когда мечтаете о деньгах? Тест: Чего вы хотите на самом деле, когда мечтаете о деньгах?

А какая у вас мотивация зарабатывать? Пройдя тест, вы узнаете ответ

Psychologies
Давлении в нижней мантии придало силикату кальция структуру перовскита Давлении в нижней мантии придало силикату кальция структуру перовскита

Американские геологи обнаружили внутри алмаза новый минерал давемаоит

N+1
Деятельность майя связали с цветением озера Аметитлан Деятельность майя связали с цветением озера Аметитлан

Как численность населения в городе майя повлияла на озера Аметитлан?

N+1
Рогатый нянь Рогатый нянь

«Дело Макмартинов» считается самым дорогостоящим судебным разбирательством в США

Maxim
Видеодрайвер перестал отвечать и был восстановлен: как исправить эту ошибку Видеодрайвер перестал отвечать и был восстановлен: как исправить эту ошибку

Почему возникает ошибка «Видеодрайвер перестал отвечать и был восстановлен»

CHIP
«Глядя в бездну. Заметки нейропсихиатра о душевных расстройствах» «Глядя в бездну. Заметки нейропсихиатра о душевных расстройствах»

Отрывок из книги нейропсихиатра о душевных расстройствах

N+1
Нюхай апельсины, полюби лаванду: 5 привычек, которые изменят жизнь к лучшему Нюхай апельсины, полюби лаванду: 5 привычек, которые изменят жизнь к лучшему

Каждая из этих привычек поможет тебе изменить жизнь к лучшему в рекордные сроки

Cosmopolitan
Мир моды плачет! Дизайнер Вирджил Абло умер в 41 год: каким мы его запомним Мир моды плачет! Дизайнер Вирджил Абло умер в 41 год: каким мы его запомним

История Вирджила Абло: как парень из семьи эмигрантов стал известным дизайнером?

Cosmopolitan
Коллаборация NOvA не нашла стерильных антинейтрино Коллаборация NOvA не нашла стерильных антинейтрино

Результаты поиска стерильного антинейтрино с помощью двух детекторов

N+1
Почему домашние кошки не умеют рычать, а тигры — мурлыкать? Почему домашние кошки не умеют рычать, а тигры — мурлыкать?

Почему рычащие кошки не мурлычут, а мурлыкающие не рычат?

Наука и жизнь
Умники и умницы: 9 сериалов для настоящих интеллектуалов Умники и умницы: 9 сериалов для настоящих интеллектуалов

Презираешь сериалы, считая их пустой тратой времени и глупым развлечением?

Cosmopolitan
Что это за зверь — тестостерон: 10 фактов о гормоне мужественности Что это за зверь — тестостерон: 10 фактов о гормоне мужественности

Как определить пониженный тестостерон, и на что этот гормон влияет

Playboy
Как посмотреть температуру процессора: тестируем CPU и боремся с перегревом Как посмотреть температуру процессора: тестируем CPU и боремся с перегревом

Как контролировать и поддерживать нормальную температуру процессора

CHIP
Что посмотреть: 11 лучших фильмов про сны Что посмотреть: 11 лучших фильмов про сны

Раскрыть секрет происхождения сновидений берутся создатели кино

Playboy
Анастасия Панина: «Если есть чувства, то всегда можно договориться» Анастасия Панина: «Если есть чувства, то всегда можно договориться»

Анастасия Панина в сериале «Доктор Надежда»

Cosmopolitan
Без йоги и медитаций: как позаботиться о себе в сложной жизненной ситуации? Без йоги и медитаций: как позаботиться о себе в сложной жизненной ситуации?

Рассказываем, как помочь себе пережить трудности, не прикладывая особых усилий

Psychologies
Физики запутали поляризацию и пространственную структуру разных фотонов Физики запутали поляризацию и пространственную структуру разных фотонов

Авторы доказали наличие запутанности фотонов, проведя томографию состояний

N+1
Муаровая сверхрешетка помогла настроить спин атома железа Муаровая сверхрешетка помогла настроить спин атома железа

Электронными и спиновыми свойствами атомов железа можно управлять

N+1
Последний ход Ивана Грозного Последний ход Ивана Грозного

Последнее, что увидел в жизни Иван Грозный, — это шахматы

Дилетант
Безалаберщина и лганье: какие слова пропали из русского лексикона за последний век Безалаберщина и лганье: какие слова пропали из русского лексикона за последний век

Как изменилась лексика русского языка с первой половины XX века

Forbes
Мужчина подменил злую кошку на добрую, и жена этого не заметила Мужчина подменил злую кошку на добрую, и жена этого не заметила

Герой истории нашел необычный способ ужиться с неприятным животным своей девушки

Psychologies

Как семья Саклер подсадила на “легальный наркотик” всю Америку.

Правила жизни
Открыть в приложении