Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Немая сцена Немая сцена

Почему иной раз руководителю не стоит говорить, даже если очень хочется

Forbes
Чем занимаются специалисты института Pantone и зачем они выбирают главный цвет года Чем занимаются специалисты института Pantone и зачем они выбирают главный цвет года

Институту Pantone принадлежат все цвета и оттенки, которые вы когда-либо видели

GQ
Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям

Как не попадаться на обман и манипуляции собственного мозга и других людей

РБК
Образцовая запущенность Образцовая запущенность

Чем живет российский моногород в 10 километрах от Норвегии

Огонёк
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Семь простых правил здорового общения Семь простых правил здорового общения

Как улучшить свои навыки коммуникации за несколько минут

Reminder
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Бескабинное безлюдье Бескабинное безлюдье

«Ростсельмаш» выводит на рынок первый отечественный беспилотный комбайн

Эксперт
2002 год 2002 год

Теракт на Дубровке, футбольный погром, запуск «Масяни» и «Идущие вместе»

Esquire
«Яндекс» раскрыл 38 принципов, которых придерживается в работе «Яндекс» раскрыл 38 принципов, которых придерживается в работе

«Яндекс» сформулировал 38 принципов, которым следуют их сотрудники в работе

Inc.
Правила жизни Агаты Кристи Правила жизни Агаты Кристи

Агата Кристи: «Война не решает никаких проблем»

Esquire
Преемница Мураками: что нужно знать о японской писательнице Ёко Огаве и ее романе «Полиция памяти» — эссе переводчика и востоковеда Дмитрия Коваленина Преемница Мураками: что нужно знать о японской писательнице Ёко Огаве и ее романе «Полиция памяти» — эссе переводчика и востоковеда Дмитрия Коваленина

Переводчик Дмитрий Коваленин рассуждает о творчестве писательницы Ёко Огавы

Esquire
Почем газ для народа? Почем газ для народа?

Для нескольких миллионов семей газификация их жилищ — годами лелеемая мечта

Эксперт
Рождение супердержавы Рождение супердержавы

Всего за сто лет Литва стала крупнейшим государством Европы

Дилетант
От репеллента против чумы до ранних сортов табака: искусственный интеллект воссоздаст «запахи прошлого» От репеллента против чумы до ранних сортов табака: искусственный интеллект воссоздаст «запахи прошлого»

Команда ученых надеется восстановить запахи, которые расскажут нам о прошлом

National Geographic
В древнеегипетском храме обнажили неизвестные названия созвездий на астрономическом потолке В древнеегипетском храме обнажили неизвестные названия созвездий на астрономическом потолке

После реставрации храм в Эсне приблизился к облику, который имел 2000 лет назад

National Geographic
Фильм «Дорогие товарищи!» – повод обратиться к самым важным и болезненным вопросам российского общества Фильм «Дорогие товарищи!» – повод обратиться к самым важным и болезненным вопросам российского общества

В своем фильме «Дорогие товарищи!» Кончаловский неожиданно бьет по больному

GQ
Самый длинный водный мост Самый длинный водный мост

Магдебургский мост является самым длинным водным мостом в мире

National Geographic
Paul Smith Paul Smith

Поболтать с модельером Полом Смитом можно и без повода

Elle
Мужчина и его собаки: Джо Байден и его немецкие овчарки Чемп и Мейджор Мужчина и его собаки: Джо Байден и его немецкие овчарки Чемп и Мейджор

Если вам нужен друг в Вашингтоне, заведите собаку

Esquire
8 ложных убеждений, которые мешают вашему психическому здоровью 8 ложных убеждений, которые мешают вашему психическому здоровью

Думая об этом, можно навредить самому себе

Psychologies
Ученые нашли способ сделать бытовую технику компактнее Ученые нашли способ сделать бытовую технику компактнее

Разработка, которая позволит сделать основные компоненты приборов намного меньше

Популярная механика
«Остров дядюшки Сэма» «Остров дядюшки Сэма»

Слава Алькатраса вышла далеко за пределы США

Дилетант
Город без нагромождений Город без нагромождений

Новое оборудование для сотовых сетей не портит городских пейзажей

РБК
Одержимость сексом: что делать, если партнер страдает зависимостью? Одержимость сексом: что делать, если партнер страдает зависимостью?

Возможно ли сохранить отношения, если у одного из партнеров зависимость от секса

Psychologies
285 сценариев хаоса: как Дональд Трамп пытается остаться в Белом доме 285 сценариев хаоса: как Дональд Трамп пытается остаться в Белом доме

Какими способами Дональд Трамп пытается оспорить результаты выборов

Forbes
Как Окинава стала островом с самым высоким в мире процентом долгожителей Как Окинава стала островом с самым высоким в мире процентом долгожителей

Окинава — эта не та привычная нам всем Япония

Maxim
Марта Кетро о великолепных мужчинах: что остаётся после ярких романов Марта Кетро о великолепных мужчинах: что остаётся после ярких романов

Сильные и талантливые мужчины иной раз оставляют огромный след в наших жизнях

Cosmopolitan
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Афина или Афродита: какая ты богиня по знаку зодиака? Афина или Афродита: какая ты богиня по знаку зодиака?

Все женщины как женщины, а я - богиня!

Cosmopolitan
Открыть в приложении