Что делает комиссия по этике искусственного интеллекта

Цифровой океанHi-Tech

Пакт о ненападении

Текст Роман Фишман

Угроза конфликта людей и машин — одна из популярных тем научной фантастики. Каким он может быть и чем закончится, можно узнать из некоторых культовых фильмов и сериалов

Искусственный интеллект — это компьютерная программа. Но ни один вид программ не вызывает столько страхов, сколько ИИ. Некоторые из этих угроз признают даже специалисты. Поэтому в России уже действует альянс разработчиков ИИ, участники которого обязуются следовать строгому этическому кодексу. Сергей Израйлит, один из создателей кодекса, ответил на вопросы «Цифрового океана».

Почeму люди боятся ИИ?

История ИИ как концепции уже довольно стара. Если вспомнить научную фантастику, то она обсуждается уже больше полувека. Традиционно такие интеллектуальные системы наделялись человеческими свойствами. Как результат предполагалось, что они будут конкурировать с людьми, а возможно, и противостоять нам, как в «Матрице». Искусство сформировало большой комплекс страхов, которые активировались, когда технологии ИИ стали появляться в повседневной жизни. Сегодня, когда они с успехом решают когнитивные задачи, с которыми раньше справлялся только человек, многим кажется: вот оно, уже происходит, и если ничего не сделать, то завтра роботы нас поработят.

Одна из подпрограмм — агент Смит — выходит из-под контроля всей системы и пробует ее захватить или хотя бы разрушить («Матрица: Революция», 2003 г.)

Мoжeт ли ИИ иметь злой умыcел?

Что-то вроде. Сам смысл интеллектуальных систем состоит в том, чтобы выделять закономерности в больших объемах данных. Включая те данные, которые генерирует человек. А наши действия зачастую дискриминационны, содержат явное или скрытое предубеждение по отношению к людям другого пола, цвета кожи, другой национальности или религии, хотя мы редко признаемся в этом даже самим себе. Но если ИИ получает большой массив данных для обработки, то он, естественно, выхватывает из него и такие закономерности. В результате появляются инструменты, которые дискриминируют уже не как люди, от случая к случаю, а системно. В отличие от фантастических фобий это вполне объективная угроза.

В некоторых случаях злой умысел имеет не ИИ, а его создатели. Например, мошенники, которые с помощью дипфейков выманивают у людей деньги, имитируя голоса родных. Однако это заведомо преступная история, и никаких этических сложностей тут нет. Этика может работать как инструмент «мягкого» права добросовестных участников отношений, то есть честных производителей ИИ.

Тематический парк зовет погрузиться в историю и не сдерживать себя в общении с местными роботами, вплоть до убийства («Мир Дикого Запада», 1973 г.)

Кaкой pеaльный вpед мoжeт нaнести ИИ, кpоме преступлeний?

Самый очевидный пример из жизни — цифровые персональные помощники. Такие программы должны помогать человеку обустраивать быт: искать билеты в кинотеатр, предупреждать о пробках, помогать в заполнении налоговой декларации. Соответственно, хочется, чтобы система действовала в интересах пользователя. Если персональный помощник подыскивает билеты или номера, стоит удостовериться, что разработчик не настроил его так, чтобы продвигать предложения своих партнеров, невыгодные пользователю. Коррумпировать такую систему совсем просто, это можно сделать даже удаленно. Поэтому от разработчиков таких систем уже требуются определенные этические декларации и обязательства.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бейсбол и космонавтика Бейсбол и космонавтика

Как технологии помогают на бейсбольном поле

Цифровой океан
Друг человека Друг человека

Робот-курьер доставляет «Цифровой океан» подписчикам

Цифровой океан
Гид по метаверсу от Покраса Гид по метаверсу от Покраса

Покрас Лампас — о метаверсе, метаценностях и метамодернизме

Собака.ru
«Присваивать уже нечего, от прошлого остался один песок» «Присваивать уже нечего, от прошлого остался один песок»

Ирина Сандомирская о том, как реставрация переизобретала и уничтожала прошлое

Weekend
Дон Педро. Из Бразилии Дон Педро. Из Бразилии

Независимость Бразилии тесно связана с принцем доном Педро

Дилетант
Сизые горожане Сизые горожане

Почему голуби стали жить рядом с человеком?

Вокруг света
«Пускай родится мальчик»: зачем девочкам дают имена-заклинания «Пускай родится мальчик»: зачем девочкам дают имена-заклинания

Как живут девочки, которым дают имена-заклинания на рождение мальчика?

Forbes
Как приготовить омлет «Пуляр», фирменное блюдо Александра Богданова, бренд-шефа Cafe Claret и Marius Как приготовить омлет «Пуляр», фирменное блюдо Александра Богданова, бренд-шефа Cafe Claret и Marius

Омлет «Пуляр» настолько пышный и воздушный, что напоминает скорее десерт

Правила жизни
Топ-10 лучших вариантов осеннего маникюра с акцентом: ты должна их попробовать! Топ-10 лучших вариантов осеннего маникюра с акцентом: ты должна их попробовать!

Маникюр с акцентом на один-два ногтя

VOICE
Есть ли у растений нервы? Есть ли у растений нервы?

Нервов у растений нет, во всяком случае, в том виде, в каком они есть у животных

Наука и жизнь
Материнская депрессия: как проходит групповая терапия для мам Материнская депрессия: как проходит групповая терапия для мам

Рассказываем об опыте потока психотерапевтической группы «Мама в порядке»

Psychologies
Как подростки снимали фильм «Дух сейда» для проекта «Кинолаборатория» Как подростки снимали фильм «Дух сейда» для проекта «Кинолаборатория»

«Сноб» поговорил с командой фильма «Дух сейда» о том, что дал им этот проект

СНОБ
Формула долголетия: 5 книг, которые помогут вам привить полезные привычки Формула долголетия: 5 книг, которые помогут вам привить полезные привычки

Книги, которые помогут сформировать привычки, ведущие к счастью и богатству

TechInsider
Антагонизм полов: вопиющие примеры мужских манипуляций Антагонизм полов: вопиющие примеры мужских манипуляций

Так ли уж нужно биологам описывать природу в терминах семейного скандала

СНОБ
После людей После людей

Призраки прошлого служат наглядным напоминанием об ошибках человечества

Вокруг света
Бесполезные данные Бесполезные данные

Андрей Чугунов исследует человеческую душу с помощью Big Data

Цифровой океан
Госсовет: 22 года в архитектуре российской власти Госсовет: 22 года в архитектуре российской власти

Какую роль в системе российской власти играет Госсовет?

Эксперт
Первые встречи людей и неандертальцев не были мирными. Древняя оружейная мастерская в Румынии Первые встречи людей и неандертальцев не были мирными. Древняя оружейная мастерская в Румынии

Археологи исследуют в западной Румынии древнюю стоянку Homo Sapiens

TechInsider
«Эзопов язык уже невозможен»: Ольга Сутулова о переменах в кино и женской повестке «Эзопов язык уже невозможен»: Ольга Сутулова о переменах в кино и женской повестке

Актриса Юля Варшавская — как меняется женская повестка в российском кино

Forbes
Помогите первокласснику Помогите первокласснику

Десять правил, которые помогут ребенку (и его родителям) подготовиться к учебе

Лиза
Что не так с истребителем F-35: проблемы авиации V поколения Что не так с истребителем F-35: проблемы авиации V поколения

Почему в истребителях F-35 пилоты чувствуют себя плохо?

TechInsider
Не то, чем кажется: развеиваем 4 популярных мифа о российской экокосметике Не то, чем кажется: развеиваем 4 популярных мифа о российской экокосметике

Как выбрать по-настоящему безопасный и эффективный экопродукт

VOICE
«Пока не сыграл в ящик»: как составить список самых важных дел «Пока не сыграл в ящик»: как составить список самых важных дел

Как составить bucket list и при этом избежать ошибок?

Psychologies
Неочевидные детали, на которые нужно обратить внимание при покупке б/у смартфона Неочевидные детали, на которые нужно обратить внимание при покупке б/у смартфона

Как купить подержанный телефон и не облажаться

Maxim
Битва за Гран-Чако Битва за Гран-Чако

Война марок между Боливией и Парагваем

Дилетант
Как тебя могут обмануть на автомойке Как тебя могут обмануть на автомойке

Слишком рачительные автовладельцы весь год ездят на грязных машинах

Maxim
Революция в понимании депрессии: продолжать ли принимать антидепрессанты? Революция в понимании депрессии: продолжать ли принимать антидепрессанты?

Серотониновая теория депрессии умерла?

Psychologies
Машинное обучение предсказало толщину нейтронной кожи свинца Машинное обучение предсказало толщину нейтронной кожи свинца

Физики рассчитали толщину нейтронной оболочки в ядре изотопа свинца-208

N+1
«Развитие Севморпути — это правовая и экономическая дилемма» «Развитие Севморпути — это правовая и экономическая дилемма»

О правовом статусе Северного морского пути и нерешенных вопросах в Арктике

Эксперт
Взрослеть не спешат: большинство россиян не ощущает себя на свой возраст Взрослеть не спешат: большинство россиян не ощущает себя на свой возраст

Больше половины 40-летних причисляют себя к молодежи

Psychologies
Открыть в приложении