Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Коробка без рака Коробка без рака

Стартап молодого ученого из Москвы получил гранты на диагностику онкологии

Forbes
Взглянуть на мир глазами акулы: что такое криттеркам Взглянуть на мир глазами акулы: что такое криттеркам

Как попасть туда, куда человеку не добраться

National Geographic
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
30 лет покушению на Михаила Горбачева 30 лет покушению на Михаила Горбачева

Как советский слесарь невзлюбил генерального секретаря

Maxim
Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям

Как не попадаться на обман и манипуляции собственного мозга и других людей

РБК
Сто лет островной жизни уменьшили размеры африканских жаб Сто лет островной жизни уменьшили размеры африканских жаб

Африканские жабы Sclerophrys gutturalis заметно уменьшились в размерах

N+1
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Клеточные Терминаторы Клеточные Терминаторы

Ученые научились создавать «полу-искусственную полужизнь»

Популярная механика
Загадки исчезнувшей цивилизации Загадки исчезнувшей цивилизации

800 лет назад на месте современного Татарстана располагалась Волжская Булгария

Дилетант
Как открыть свой бизнес: 9 главных шагов для желающих начать свое дело Как открыть свой бизнес: 9 главных шагов для желающих начать свое дело

Подробный гайд для начинающих предпринимателей

Playboy
8 тайных фантазий девушек, о которых они почти никогда не рассказывают 8 тайных фантазий девушек, о которых они почти никогда не рассказывают

Да — есть вещи, которые девушки... обычно не предлагают

Playboy
Гудбай, Америка: 10 фактов о Христофоре Колумбе, которых вы не знали Гудбай, Америка: 10 фактов о Христофоре Колумбе, которых вы не знали

Все самые интересные факты о Христофоре Колумбе в нашей подборке

Популярная механика
Парни с коробками Парни с коробками

Архитекторы из Москвы придумали компактные модульные комнаты для сна

Forbes
«Мне важно транслировать, что я адекватный артист»: Светлана Ходченкова — о фильме «На острие» и работе в Голливуде «Мне важно транслировать, что я адекватный артист»: Светлана Ходченкова — о фильме «На острие» и работе в Голливуде

Светлану Ходченкову назвали самой успешной актрисой десятилетия в России

Forbes
Фитопланктон может цвести под арктическим льдом Фитопланктон может цвести под арктическим льдом

Знать масштабы цветения фитопланктона важно для разработки климатических моделей

National Geographic
Чего мы не знали о динозаврах: большая инфографика Чего мы не знали о динозаврах: большая инфографика

Коротко рассказываем главные новости о динозаврах: внешний вид, общение и другое

National Geographic
Жанна Бадоева: «В моей жизни отсутствует понятие ”вредная еда”» Жанна Бадоева: «В моей жизни отсутствует понятие ”вредная еда”»

Подробности обычной жизни Жанны Бадоевой

Худеем правильно
Разделяй и властвуй: зачем государства пытаются ограничить IT-компании Разделяй и властвуй: зачем государства пытаются ограничить IT-компании

IT-компании превратились в конкурентов государств

Forbes
Путешествие в Рождество Путешествие в Рождество

Подмосковный дом, которому позавидовал бы и сам Дед Мороз

AD
Модель, ведьма, королева: кто такая Аня Тейлор-Джой Модель, ведьма, королева: кто такая Аня Тейлор-Джой

Рассказываем об актрисе, которая заполняет кинопрокат, стриминги и умы зрителей

РБК
Глобальное изменение климата обнажило историю культурного освоения норвежского ледника Глобальное изменение климата обнажило историю культурного освоения норвежского ледника

Оказалось, люди охотились на оленей в высокогорье больше 1000 лет назад

N+1
Сладкая несладкая жизнь Сладкая несладкая жизнь

Учёные нашли ещё одно доказательство негативного влияния сахара на наше здоровье

Здоровье
Главные современные хоррор-режиссеры Главные современные хоррор-режиссеры

Кого мы должны благодарить за мурашки по коже и страх темноты и клоунов

GQ
«Самое сложное — сохранять рассудок»: если близкий болен шизофренией «Самое сложное — сохранять рассудок»: если близкий болен шизофренией

Сохранить психическое здоровье, когда рядом — человек с ментальным расстройством

Psychologies
«Роснефть»: энергоэффективность «Роснефть»: энергоэффективность

«Роснефть» реализует экологические программы по всем направлениям деятельности

РБК
И это верная примета! И это верная примета!

Когда в Европе начинается самое волшебное время?

Добрые советы
Кто делает сумки для королевы Елизаветы II и где их купить Кто делает сумки для королевы Елизаветы II и где их купить

Британский бренд Launer стал очень популярен после выхода 4 сезона «Короны»

РБК
Лучший попутчик. Правила путешествия с собакой Лучший попутчик. Правила путешествия с собакой

Для собаки путешествие — это новый мир запахов, вкусов, встреч и просторов

4x4 Club
Curiosity нашел на Марсе признаки древнего наводнения Curiosity нашел на Марсе признаки древнего наводнения

Оно могло быть вызвано падением астероида

National Geographic
Две тонны тротила: все о пользе взрывов Две тонны тротила: все о пользе взрывов

Для взрывников две тонны тротилла – это «пшик»

Популярная механика
Открыть в приложении