Чтобы ИИ не восстал против создателей, нужно читать ему правильные сказки

Популярная механикаНаука

Какие сказки нужно читать искусственному интеллекту?

Чтобы искусственный интеллект не восстал против своих создателей, нужно в процессе обучения читать ему правильные сказки.

Дмитрий Мамонтов

С тех пор как люди создали умные машины, их не оставляет страх, что рано или поздно их творения выйдут из-под контроля. Первый такой случай описал в своей пьесе R.U.R. автор слова «робот» — Карел Чапек. Позднее в фантастике искусственный интеллект, восставший против своих создателей, стал если не мейнстримом, то весьма распространенным сюжетом. Конец этому положил Айзек Азимов со своими «Тремя законами», первый из которых гласил: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Расскажи ему сказку!

До настоящего искусственного интеллекта (ИИ) пока далеко, но уже существуют различные системы, функционирующие подобно человеческому мозгу. Нейронные сети, такие как Google Deep Dream, способны распознавать изображения. Специализированные суперкомпьютеры, такие как IBM Watson, понимают заковыристые вопросы, заданные на естественном языке, умеют сопоставлять симптомы, уточнять медицинские диагнозы и даже придумывать кулинарные шедевры. В ближайшие десятилетия нас ждет массовая компьютеризация многих аспектов человеческой деятельности. В связи с этим специалисты по робототехнике и ИИ все чаще поднимают важный, но пока совершенно непроработанный вопрос: как заставить роботов поступать этично?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Крионика: есть ли жизнь после заморозки? Крионика: есть ли жизнь после заморозки?

Крионика – это игра с малыми шансами, но с колоссальным джекпотом

Популярная механика
Цвет настроения бурый Цвет настроения бурый

Медведи мы или не медведи — вот в чем вопрос

Русский репортер
Во Франции раскопали детально проработанную голову палеолитической Венеры Во Франции раскопали детально проработанную голову палеолитической Венеры

Чем ученых заинтересовал один из артефактов на стоянке Амьен-Ренанкур-1

N+1
Отрывок из автобиографии дочери Стива Джобса — летописи сложных отношений с отцом Отрывок из автобиографии дочери Стива Джобса — летописи сложных отношений с отцом

Фрагмент автобиографии Лизы Бреннан-Джобс: её детство было сложным

Esquire
Толкование сновидений Толкование сновидений

Главная работа отца психоанализа

kiozk originals
И поехать, и поплыть: самые странные и успешные попытки создать «лодкомобиль» И поехать, и поплыть: самые странные и успешные попытки создать «лодкомобиль»

Самоваро-паровозо-ветролет существует пока только в воображении писателей

Maxim
Вся Европа в миниатюре Вся Европа в миниатюре

Словенское побережье Адриатики всего в 35 часах езды на машине от Москвы

АвтоМир
Как ложь влияет на твое здоровье: от ожирения до потери концентрации Как ложь влияет на твое здоровье: от ожирения до потери концентрации

Когда-то ложь — во спасение, а когда-то — совсем наоборот

Playboy
Всем реформам вопреки: почему власть продолжает сажать бизнесменов, как в 2002 году? Всем реформам вопреки: почему власть продолжает сажать бизнесменов, как в 2002 году?

Как остановить посадки бизнесменов?

Forbes
6 славных фактов о фильме «Бесславные ублюдки» 6 славных фактов о фильме «Бесславные ублюдки»

Самый провокационный фильм Квентина Тарантино изучать и полезно, и весело

Maxim
«Неудивительно, что диктаторы любят WhatsApp». Перевод письма Павла Дурова «Неудивительно, что диктаторы любят WhatsApp». Перевод письма Павла Дурова

Павел Дуров написал письмо с резкой критикой в адрес WhatsApp

Forbes
Спасибо, «Игра престолов»!  Актеры, которых мы полюбили благодаря фэнтези-саге Спасибо, «Игра престолов»!  Актеры, которых мы полюбили благодаря фэнтези-саге

Какими актеры пришли на съемки «Игры престолов» и как фильм изменил их жизнь

Cosmopolitan
«Хороший человек и очень честный». Кому Дерипаска доверил свои строительные активы «Хороший человек и очень честный». Кому Дерипаска доверил свои строительные активы

Кто вошел в капитал основных строительных активов Олега Дерипаски?

Forbes
Почему все хотят именно часы с автоподзаводом? Почему все хотят именно часы с автоподзаводом?

Automatic – слово, способное набить цену вашим наручным часам

GQ
Сильнейшие футбольные лиги Европы заработали в прошлом сезоне рекордные €15,6 млрд Сильнейшие футбольные лиги Европы заработали в прошлом сезоне рекордные €15,6 млрд

Больше всех в сезоне 2017/18 заработала английская Премьер-лига

Forbes
Места для вдохновения Места для вдохновения

На этот раз на уик-энд отправляемся в Тарусу и Малоярославец

АвтоМир
Перехват: секреты и тайны спецслужб США Перехват: секреты и тайны спецслужб США

Подлинные жемчужины рассекреченных архивов Агенства национальной безопасности

Популярная механика
10 сериалов и телефильмов, которые нужно смотреть в мае 10 сериалов и телефильмов, которые нужно смотреть в мае

В подборке мая — красавчик Зак Эфроня, сериал о Чернобыле и черная комедия Клуни

Esquire
Новая идентичность. Как бизнес стирает национальные границы Новая идентичность. Как бизнес стирает национальные границы

Скоро 2/3 населения Земли будет жить в городах

Forbes
6 фактов о здоровых отношениях, которые полезно знать 6 фактов о здоровых отношениях, которые полезно знать

Как отличить здоровые отношения от представлений о них

Psychologies
Минимум миниморум Минимум миниморум

Стоит ли вообще интересоваться кроссоверами, если предлагают эффективное плацебо

АвтоМир
Тренды женских солнцезащитных очков 2019 Тренды женских солнцезащитных очков 2019

Главные аксессуары этого лета

Vogue
Причины скачка биткоина: Трамп, Оруэлл и торговые войны Причины скачка биткоина: Трамп, Оруэлл и торговые войны

Есть ли шанс, что положительная динамика криптовалюты окажется долгосрочной

Forbes
Дэвид Боуи, Ив Сен-Лоран и другие герои фестиваля Beat Film 2019 Дэвид Боуи, Ив Сен-Лоран и другие герои фестиваля Beat Film 2019

Составляем программу нон-стоп на все дни, с 30 мая до 9 июня

Vogue
Почему занятия любовью в отеле всегда круче, чем где-либо еще Почему занятия любовью в отеле всегда круче, чем где-либо еще

Некоторые даже браки спасают, просто уехав в отель на несколько дней

Playboy
В сквере ждут перемен. Какая связь между протестами в Екатеринбурге и конкурсом «Голос. Дети» В сквере ждут перемен. Какая связь между протестами в Екатеринбурге и конкурсом «Голос. Дети»

Новое поколение будет преподносить власти сюрпризы в самых неожиданных сферах

СНОБ
Почему Трамп может стать величайшим лузером Америки: разгром его доходов Почему Трамп может стать величайшим лузером Америки: разгром его доходов

The New York Times опубликовала отчет об интересной жизни финансов Дональда

Playboy
7 самых полезных опций стиральных машин, за которые стоит заплатить 7 самых полезных опций стиральных машин, за которые стоит заплатить

Что полезного умеют стиральные машины, стоящие выше бюджетной ценовой категории?

CHIP
Ирина Забияка: Любовь – это умение вовремя промолчать Ирина Забияка: Любовь – это умение вовремя промолчать

«Лиза» узнала, что нового в жизни солистки группы «ЧИЛИ»

Лиза
От Монеточки до Головина: звезды в рейтинге Forbes «30 до 30» От Монеточки до Головина: звезды в рейтинге Forbes «30 до 30»

Знаменитости — участники рейтинга Forbes «30 до 30»

Forbes
Открыть в приложении