Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Но ИИ может и ошибиться. В алгоритмах, как в любом медицинском тесте, есть показатели точности и есть ошибки, которые невозможно избежать в силу их предсказательной или обобщающей способности. Есть также ошибки, которые возникают при обучении ИИ, потому что определенные сценарии не встречались в обучающих примерах. Например, в компании N за всю историю не было женщин, занимавших высокие посты. Алгоритм, основываясь на этих данных, никогда не наймет женщин, потому что будет считать, что они не способны достичь высокого положения в компании.

Это этично? Нет. Поэтому с точки зрения разработчиков очень важно минимизировать возможность таких ошибок и научить алгоритм собирать непредвзятые данные. С точки зрения пользователей алгоритмов, как уже говорилось выше, очень важно не применять ИИ в ситуациях, для которых он не предназначен. Например, если алгоритм, натренированный отличать кошек от собак, запустить в зоопарке, он будет либо не способен дать ответ, либо, что еще хуже, пытаться классифицировать всех зверей лишь на кошек или собак.

…и что такое плохо

На сегодняшний день основное средство контроля за этичностью алгоритма — это отсутствие у него возможности принимать критически важные решения самостоятельно. Например, ставить диагнозы. На языке разработчиков это называется human in the loop: человек обязательно участвует в принятии решений, а алгоритм выступает как советчик.

Уровень алгоритмов пока не настолько высок, чтобы мы им доверяли принятие жизненно важных решений, но некоторые вещи мы все же позволяем делать ИИ самостоятельно. Например, повсеместно используемые роботы-пылесосы. Они управляются искусственным интеллектом, но могут ошибиться и заехать не в ту комнату или наехать на препятствие. Однако это не грубая ошибка, и она не приводит к критическим последствиям. То есть пылесос не может сделать ничего такого, что могло бы навредить человеку. Это к вопросу об этике — в алгоритмы работы робота заложены определенные ограничения, которые он не может переступить.

Существующие алгоритмы ИИ можно разделить на два класса: black-box и white-box. Первый — это некий «черный ящик», при использовании которого даже эксперту, создавшему его, может быть непонятно, почему ИИ выдал ту или иную рекомендацию (например, модели глубинного нейронного обучения, deep learning). Такие алгоритмы можно использовать для сервисов с музыкой или фильмами, но нельзя применять ни в медицине, ни в финансах, ни в какой-либо другой ответственной отрасли.

White-box или transparent (прозрачные алгоритмы), наоборот, используют для важных отраслей, так как там алгоритмы максимально просты и понятны. Важным моментом для обеих категорий является ответственность за ошибку. Пока этот вопрос остается нерешенным с юридической точки зрения. Неясно, кто должен нести ответственность за неправильное решение или ошибку ИИ — пользователь, создатель или владелец алгоритма.

Алгоритмы учатся точнее моделировать ситуации и меньше ошибаться, однако они никогда не станут совершенны и безошибочны. Вопрос о допустимом пороге ошибок, цене за ошибку и экономии от замены человека искусственным интеллектом будет стоять всегда. В ближайшем будущем человек по-прежнему будет принимать критические решения, каким бы умным и этичным ни был ИИ.

Леонид Жуков — директор Лаборатории по искусственному интеллекту «Сбера», доктор наук, профессор Высшей школы экономики, пятикратно удостоенный звания «Лучший преподаватель». Является одним из ведущих экспертов в России и в мире в области анализа больших данных, искусственного интеллекта и машинного обучения.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сообразим на троих Сообразим на троих

Сергей Студенников в одиночку создал гигантскую сеть «Красное & Белое»

Forbes
«Почему я плету индейские мандалы» «Почему я плету индейские мандалы»

Это древнее рукоделие помогло нашей героине пережить большое горе

Psychologies
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
SpaceX вновь доставила на МКС астронавтов на корабле Crew Dragon. В чем его уникальность SpaceX вновь доставила на МКС астронавтов на корабле Crew Dragon. В чем его уникальность

Большой скачок для США в сторону от российских ракет

Maxim
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
8 фактов про советский «Луноход», которые вызывают приступ гордости 8 фактов про советский «Луноход», которые вызывают приступ гордости

Советское значит отличное!

Maxim
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
«Если мы не победим, этой стране конец»: главное из новых мемуаров Барака Обамы «Если мы не победим, этой стране конец»: главное из новых мемуаров Барака Обамы

Барак Обама про Путина, республиканцев, Байдена и будущее

Forbes
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
«Мы все, начиная с Чулпан, в этой стране первопроходцы»: Ингеборга Дапкунайте — о фонде «Вера», эффективной благотворительности и реакции на критику «Мы все, начиная с Чулпан, в этой стране первопроходцы»: Ингеборга Дапкунайте — о фонде «Вера», эффективной благотворительности и реакции на критику

Интервью с Ингеборгой Дапкунайте о благотворительности, черных экранах и критике

Forbes
Вечные ценности Вечные ценности

На какие деньги живут города-музеи

Forbes
Уличная мода, коллаборации и хайп – три кита современно­й моды Уличная мода, коллаборации и хайп – три кита современно­й моды

Интервью с японским дизайнером-гением Хироси Фудзивара

GQ
Вес слова Вес слова

Если карьера не задалась, у вас есть реальный шанс стать преуспевающим спикером

Forbes
Инвесторы уходят в космос: как развивается коммерческая сторона освоения Вселенной Инвесторы уходят в космос: как развивается коммерческая сторона освоения Вселенной

Антон Аликов: почему в космической индустрии произойдет экономический прорыв

Forbes
Банка больше нет Банка больше нет

Сбербанк сменил имя, разошелся с «Яндексом» и не смог сойтись с Ozon

Forbes
Бегущая по волне Бегущая по волне

Милла Йовович — о сильных героинях, дочке-актрисе и модных сокровищах в гараже

Vogue
6 самых смачных забастовок в истории 6 самых смачных забастовок в истории

Самые интересные и необычные забастовки в истории

Maxim
Год выбирали одно слово: как бывший менеджер «Яндекса» разрабатывал для «Сбера» семейство голосовых помощников Год выбирали одно слово: как бывший менеджер «Яндекса» разрабатывал для «Сбера» семейство голосовых помощников

Кто стоял за разработкой голосовых помощников для «Сбера»

Forbes
Как закончить отношения корректно: 10 советов Как закончить отношения корректно: 10 советов

Rак расстаться с достоинством и сохранив уважение к чувствам другого

Psychologies
Искала одного, выбрала другого: чему меня научили свидания Искала одного, выбрала другого: чему меня научили свидания

Читательница поделилась опытом первых свиданий с людьми, встреченными онлайн

Psychologies
5 самых страшных космических происшествий 5 самых страшных космических происшествий

Космос осваивают силами лучших ученых, но катастрофы все равно случаются

Maxim
Как Елена Крыгина уехала из Сургута учиться PR и построила бьюти-империю. Главное из подкаста Forbes «Кассовый разрыв» Как Елена Крыгина уехала из Сургута учиться PR и построила бьюти-империю. Главное из подкаста Forbes «Кассовый разрыв»

Елены Крыгина о том, как превратила детское увлечение в бизнес

Forbes
Влететь в стену на полном ходу: как венчурные инвестиции могут навредить вашему бизнесу Влететь в стену на полном ходу: как венчурные инвестиции могут навредить вашему бизнесу

Если и запускать стартап, то обязательно на венчурные деньги

Forbes
Кристоф Копен, директор мужской линии COS: «Людям всегда будет нужна одежда. Она неразрывно связана с образом жизни, который ты ведешь» Кристоф Копен, директор мужской линии COS: «Людям всегда будет нужна одежда. Она неразрывно связана с образом жизни, который ты ведешь»

Интервью с Кристофом Копеном, директором мужской линии COS

Esquire
Канистра всех времен и народов — изобретение вермахта, благодаря которому союзники выиграли войну Канистра всех времен и народов — изобретение вермахта, благодаря которому союзники выиграли войну

На фронте мелочей не бывает

Maxim
В плену чувств: как звуки, вкусы и ароматы определяют наши потребительские желания В плену чувств: как звуки, вкусы и ароматы определяют наши потребительские желания

Глава из книги «Эстетический интеллект» — о работе брендов с ощущениями

Forbes
Сотрудничество с дизайнерами и трибьют в «Сексе в большом городе» — что связывает Марину Абрамович и моду Сотрудничество с дизайнерами и трибьют в «Сексе в большом городе» — что связывает Марину Абрамович и моду

Марину Абрамович называют «бабушкой перформанса» не просто так

Esquire
К качеству книги не имеет отношения то, что о ней говорят К качеству книги не имеет отношения то, что о ней говорят

Дмитрий Быков об инках, истребителях и литературе

СНОБ
Золото, серебро, самоцветы: как почистить серьги Золото, серебро, самоцветы: как почистить серьги

Как безопасно почистить сережки в домашних условиях

Cosmopolitan
Системный подход Системный подход

Как правильно поддержать иммунитет в сезон простуд и вирусов

Grazia
Открыть в приложении