Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Но ИИ может и ошибиться. В алгоритмах, как в любом медицинском тесте, есть показатели точности и есть ошибки, которые невозможно избежать в силу их предсказательной или обобщающей способности. Есть также ошибки, которые возникают при обучении ИИ, потому что определенные сценарии не встречались в обучающих примерах. Например, в компании N за всю историю не было женщин, занимавших высокие посты. Алгоритм, основываясь на этих данных, никогда не наймет женщин, потому что будет считать, что они не способны достичь высокого положения в компании.

Это этично? Нет. Поэтому с точки зрения разработчиков очень важно минимизировать возможность таких ошибок и научить алгоритм собирать непредвзятые данные. С точки зрения пользователей алгоритмов, как уже говорилось выше, очень важно не применять ИИ в ситуациях, для которых он не предназначен. Например, если алгоритм, натренированный отличать кошек от собак, запустить в зоопарке, он будет либо не способен дать ответ, либо, что еще хуже, пытаться классифицировать всех зверей лишь на кошек или собак.

…и что такое плохо

На сегодняшний день основное средство контроля за этичностью алгоритма — это отсутствие у него возможности принимать критически важные решения самостоятельно. Например, ставить диагнозы. На языке разработчиков это называется human in the loop: человек обязательно участвует в принятии решений, а алгоритм выступает как советчик.

Уровень алгоритмов пока не настолько высок, чтобы мы им доверяли принятие жизненно важных решений, но некоторые вещи мы все же позволяем делать ИИ самостоятельно. Например, повсеместно используемые роботы-пылесосы. Они управляются искусственным интеллектом, но могут ошибиться и заехать не в ту комнату или наехать на препятствие. Однако это не грубая ошибка, и она не приводит к критическим последствиям. То есть пылесос не может сделать ничего такого, что могло бы навредить человеку. Это к вопросу об этике — в алгоритмы работы робота заложены определенные ограничения, которые он не может переступить.

Существующие алгоритмы ИИ можно разделить на два класса: black-box и white-box. Первый — это некий «черный ящик», при использовании которого даже эксперту, создавшему его, может быть непонятно, почему ИИ выдал ту или иную рекомендацию (например, модели глубинного нейронного обучения, deep learning). Такие алгоритмы можно использовать для сервисов с музыкой или фильмами, но нельзя применять ни в медицине, ни в финансах, ни в какой-либо другой ответственной отрасли.

White-box или transparent (прозрачные алгоритмы), наоборот, используют для важных отраслей, так как там алгоритмы максимально просты и понятны. Важным моментом для обеих категорий является ответственность за ошибку. Пока этот вопрос остается нерешенным с юридической точки зрения. Неясно, кто должен нести ответственность за неправильное решение или ошибку ИИ — пользователь, создатель или владелец алгоритма.

Алгоритмы учатся точнее моделировать ситуации и меньше ошибаться, однако они никогда не станут совершенны и безошибочны. Вопрос о допустимом пороге ошибок, цене за ошибку и экономии от замены человека искусственным интеллектом будет стоять всегда. В ближайшем будущем человек по-прежнему будет принимать критические решения, каким бы умным и этичным ни был ИИ.

Леонид Жуков — директор Лаборатории по искусственному интеллекту «Сбера», доктор наук, профессор Высшей школы экономики, пятикратно удостоенный звания «Лучший преподаватель». Является одним из ведущих экспертов в России и в мире в области анализа больших данных, искусственного интеллекта и машинного обучения.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Груз платформы Груз платформы

Павел Дуров: бизнесмен, который бросил вызов мировому господству доллара

Forbes
Как избавиться от зависти: 8 шагов к тому, чтобы перестать сравнивать себя с другими Как избавиться от зависти: 8 шагов к тому, чтобы перестать сравнивать себя с другими

Избавься от чувства постоянного неудовлетворения и начни жить своей жизнью

Playboy
6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
Как создать идеальную холостяцкую берлогу: 6 секретов джентльмена Как создать идеальную холостяцкую берлогу: 6 секретов джентльмена

Твоя комната — твои правила

Playboy
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Одновременная линька маховых перьев облегчила птицам отказ от полета Одновременная линька маховых перьев облегчила птицам отказ от полета

Ученые выяснили причину, по которой птицы становятся нелетающими

N+1
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Что известные автомобильные бренды выпускали во время Второй мировой Что известные автомобильные бренды выпускали во время Второй мировой

Вспомнили типичную для 40-х годов XX века продукцию автомобильных брендов

Maxim
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
Мы в домике Мы в домике

Герои, которые хранят у себя в каминах огонь светской жизни

Tatler
Кодекс поведения робота Кодекс поведения робота

В чем заключаются ключевые проблемы взаимодействия человека и ИИ

Популярная механика
5 психиатрических лечебниц и их знаменитые пациенты 5 психиатрических лечебниц и их знаменитые пациенты

Какие интересные факты, а порой мистические легенды связаны с психбольницами?

Psychologies
Самосбывающееся проклятие Самосбывающееся проклятие

Cлухи о конце эпохи низкой инфляции в США сильно преувеличены

Forbes
Бет: Начало Бет: Начало

«Ход королевы» — сериал об одиночестве и новой суперсиле

Weekend
Заклятие «Массандры» Заклятие «Массандры»

Хозяйству на Южном берегу Крыма нужна новая идеология развития

Forbes
Распад заряженного B-мезона не вписался в Стандартную модель Распад заряженного B-мезона не вписался в Стандартную модель

Подобные аномалии могут оказаться ключом к Новой физике

N+1
7 книг для поддержания эмоциональной стабильности 7 книг для поддержания эмоциональной стабильности

Книги, которые помогут пережить испытания и продолжить идти вперед

РБК
Возвращение парусного флота Возвращение парусного флота

Почему парусники возвращаются?

Популярная механика
Борис Галкин: «Гибкая электроника не только даст импульс к появлению новых применений, но и потеснит традиционную электронику на существующих рынках» Борис Галкин: «Гибкая электроника не только даст импульс к появлению новых применений, но и потеснит традиционную электронику на существующих рынках»

Как развивается рынок гибкой электроники и почему у России отличные перспективы

Inc.
Елки-палки: как стартап по высадке леса Maraquia получил похвалу Путина, потерял инвесторов и теперь судится с основателем Елки-палки: как стартап по высадке леса Maraquia получил похвалу Путина, потерял инвесторов и теперь судится с основателем

Что скрывается за красивым фасадом стартапа Maraquia («Маракуйя»)

Forbes
«В нашей жизни всё спонтанно» «В нашей жизни всё спонтанно»

Блогеры Ольга и Максим Нечаевы: о воспитании дочери и курсе «Голые деньги»

OK!
Про мэтчи и баны: топ-7 болезненных вопросов об онлайн-знакомствах главе «Мамбы» Про мэтчи и баны: топ-7 болезненных вопросов об онлайн-знакомствах главе «Мамбы»

Разбираем все причины, по которым мы ненавидим сайты и приложения для знакомств

Playboy
7 удивительных фактов о Зигмунде Фрейде, которые вы могли не знать 7 удивительных фактов о Зигмунде Фрейде, которые вы могли не знать

Старина Сигизмунд Шломо Фрейд и малоизвестные факты о его жизни и смерти

Популярная механика
Его звали «тюремный Гудини» Его звали «тюремный Гудини»

В середине XX века похождения Альфи Хайндса не сходили с первых полос газет

Maxim
Что это, доктор? Что это, доктор?

Как ищут новые органы в теле человека — и что находят вместо них

N+1
Смена власти в гареме заставила самок гелад созреть быстрее Смена власти в гареме заставила самок гелад созреть быстрее

Влияют ли самцы на скорость созревание самок в дикой среде?

N+1
«Африканцы глупее других!»: 6 самых громких скандалов из-за Нобелевской премии «Африканцы глупее других!»: 6 самых громких скандалов из-за Нобелевской премии

В чем упрекают этих нобелевских лауреатов

Cosmopolitan
Смерть обсерватории Смерть обсерватории

После серии аварий «культовый» телескоп Arecibo может закрыться навсегда

Популярная механика
Последний фильм Михаила Ефремова Последний фильм Михаила Ефремова

Фильм «Картонная пристань» — пророческий для всей российской грядущей реальности

СНОБ
Не шоколадом единым: какая еда делает нас счастливыми Не шоколадом единым: какая еда делает нас счастливыми

Как еда помогает нам улучшить настроение

Psychologies
Открыть в приложении