Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Но ИИ может и ошибиться. В алгоритмах, как в любом медицинском тесте, есть показатели точности и есть ошибки, которые невозможно избежать в силу их предсказательной или обобщающей способности. Есть также ошибки, которые возникают при обучении ИИ, потому что определенные сценарии не встречались в обучающих примерах. Например, в компании N за всю историю не было женщин, занимавших высокие посты. Алгоритм, основываясь на этих данных, никогда не наймет женщин, потому что будет считать, что они не способны достичь высокого положения в компании.

Это этично? Нет. Поэтому с точки зрения разработчиков очень важно минимизировать возможность таких ошибок и научить алгоритм собирать непредвзятые данные. С точки зрения пользователей алгоритмов, как уже говорилось выше, очень важно не применять ИИ в ситуациях, для которых он не предназначен. Например, если алгоритм, натренированный отличать кошек от собак, запустить в зоопарке, он будет либо не способен дать ответ, либо, что еще хуже, пытаться классифицировать всех зверей лишь на кошек или собак.

…и что такое плохо

На сегодняшний день основное средство контроля за этичностью алгоритма — это отсутствие у него возможности принимать критически важные решения самостоятельно. Например, ставить диагнозы. На языке разработчиков это называется human in the loop: человек обязательно участвует в принятии решений, а алгоритм выступает как советчик.

Уровень алгоритмов пока не настолько высок, чтобы мы им доверяли принятие жизненно важных решений, но некоторые вещи мы все же позволяем делать ИИ самостоятельно. Например, повсеместно используемые роботы-пылесосы. Они управляются искусственным интеллектом, но могут ошибиться и заехать не в ту комнату или наехать на препятствие. Однако это не грубая ошибка, и она не приводит к критическим последствиям. То есть пылесос не может сделать ничего такого, что могло бы навредить человеку. Это к вопросу об этике — в алгоритмы работы робота заложены определенные ограничения, которые он не может переступить.

Существующие алгоритмы ИИ можно разделить на два класса: black-box и white-box. Первый — это некий «черный ящик», при использовании которого даже эксперту, создавшему его, может быть непонятно, почему ИИ выдал ту или иную рекомендацию (например, модели глубинного нейронного обучения, deep learning). Такие алгоритмы можно использовать для сервисов с музыкой или фильмами, но нельзя применять ни в медицине, ни в финансах, ни в какой-либо другой ответственной отрасли.

White-box или transparent (прозрачные алгоритмы), наоборот, используют для важных отраслей, так как там алгоритмы максимально просты и понятны. Важным моментом для обеих категорий является ответственность за ошибку. Пока этот вопрос остается нерешенным с юридической точки зрения. Неясно, кто должен нести ответственность за неправильное решение или ошибку ИИ — пользователь, создатель или владелец алгоритма.

Алгоритмы учатся точнее моделировать ситуации и меньше ошибаться, однако они никогда не станут совершенны и безошибочны. Вопрос о допустимом пороге ошибок, цене за ошибку и экономии от замены человека искусственным интеллектом будет стоять всегда. В ближайшем будущем человек по-прежнему будет принимать критические решения, каким бы умным и этичным ни был ИИ.

Леонид Жуков — директор Лаборатории по искусственному интеллекту «Сбера», доктор наук, профессор Высшей школы экономики, пятикратно удостоенный звания «Лучший преподаватель». Является одним из ведущих экспертов в России и в мире в области анализа больших данных, искусственного интеллекта и машинного обучения.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Черкизово». Наследники. Алтай «Черкизово». Наследники. Алтай

Почему Игорь Бабаев отдал весь свой бизнес сыновьям

Forbes
Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности

Мурад Ниязов, Гульнара Каримова, Николае Чаушеску-младший — где они теперь?

Maxim
«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
8 книг об окружающем мире для взрослых и детей 8 книг об окружающем мире для взрослых и детей

Книги про космос, географию и естественные науки для всей семьи

Популярная механика
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Как научить ребенка бережно относиться к деньгам Как научить ребенка бережно относиться к деньгам

Ребенка нужно с детства учить финансовой грамотности

СНОБ
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Мартин Лютер Мартин Лютер

Бунтарь в эпоху потрясений

kiozk originals
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
«Женщины слишком эмоциональны и не умеют рисковать». Почему в российском венчуре так мало женщин «Женщины слишком эмоциональны и не умеют рисковать». Почему в российском венчуре так мало женщин

Почему венчур до сих пор остаётся «мужским клубом»?

Inc.
100 самых сексуальных женщин страны 100 самых сексуальных женщин страны

Сто самых красивых женщин страны заждались тебя

Maxim
Окситоцин: как на нас влияет «гормон объятий» Окситоцин: как на нас влияет «гормон объятий»

Разбираемся, как окситоцин влияет на психику и на здоровье в целом

РБК
Миры миров Миры миров

Как стать президентом в мультивселенной

Популярная механика
Ради любви или пиара? Звезды, приходившие на «Давай поженимся!» – зачем им это Ради любви или пиара? Звезды, приходившие на «Давай поженимся!» – зачем им это

Кто из знаменитостей искал любовь на шоу «Давай поженимся!» и кто ее нашел?

Cosmopolitan
Драма 1921 года Драма 1921 года

Страшные подробности царь-голода в Советской России 1921 года

Дилетант
10 культовых фильмов, которые должен посмотреть каждый 10 культовых фильмов, которые должен посмотреть каждый

Погружаемся в современную киноклассику

Esquire
Пластичность мозга Пластичность мозга

Потрясающие факты о том, как мысли способны менять структуру и функции мозга

kiozk originals
Ольгерд vs Дмитрий Ольгерд vs Дмитрий

«Собирателем» русских земель могло стать Литовское, а не Московское княжество

Дилетант
Как сделать девушке приятно, не залезая к ней в постель, да еще и заработать Как сделать девушке приятно, не залезая к ней в постель, да еще и заработать

Умеешь починить розетку и прибить к холодильнику полку?

Maxim
Как избежать ошибок с широкими брюками: модные правила от стилиста Как избежать ошибок с широкими брюками: модные правила от стилиста

Стилист объясняет, как носить брюки-палаццо

Cosmopolitan
Кислород и водород на Марсе предложили получать из рассола Кислород и водород на Марсе предложили получать из рассола

Кислород и водород на Марсе хотят получать из марсианских озер

N+1
Из воды и гидрогеля сделали энергосберегающее умное окно Из воды и гидрогеля сделали энергосберегающее умное окно

Это окно может становиться непрозрачным, а также сохранять полученное тепло

N+1
«Мне важно транслировать, что я адекватный артист»: Светлана Ходченкова — о фильме «На острие» и работе в Голливуде «Мне важно транслировать, что я адекватный артист»: Светлана Ходченкова — о фильме «На острие» и работе в Голливуде

Светлану Ходченкову назвали самой успешной актрисой десятилетия в России

Forbes
Найдены поразительные сходства в строении нейронов нашего мозга и колоссальных скоплений галактик Найдены поразительные сходства в строении нейронов нашего мозга и колоссальных скоплений галактик

Сеть нейронов внутри мозга и скопления галактик организованы схожим способом

Популярная механика
Заха Хадид. Гостья из будущего Заха Хадид. Гостья из будущего

«Любой ее проект — невиданная новость, и каждый — отважнее предыдущего»

Караван историй
Честер Беннингтон, Курт Кобейн и другие — как погибли звезды-самоубийцы Честер Беннингтон, Курт Кобейн и другие — как погибли звезды-самоубийцы

Истории звезд, чья жизнь рано и трагически оборвалась

Cosmopolitan
Волшебные пузырьки Волшебные пузырьки

Чтобы игристое вино приносило только радость, учитесь правильно читать этикетку

Добрые советы
Красота против партии: как жители КНДР борются с режимом с помощью контрабандной косметики Красота против партии: как жители КНДР борются с режимом с помощью контрабандной косметики

Как стремление к разнообразию и красоте заставляет людей рисковать свободой

Forbes
Мы с вами давно знакомы Мы с вами давно знакомы

Саксония – самый восточный регион Германии – всегда привлекала русских туристов

Лиза
Как не поссориться на праздниках: 10 советов для всей семьи Как не поссориться на праздниках: 10 советов для всей семьи

Как провести праздничные дни без стресса

Домашний Очаг
Открыть в приложении