Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдерHi-Tech

Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Ученые из Университета Брауна разработали инструмент, который может объяснить, как работают модели ИИ, классифицирующие изображения, работают и почему они ошибаются. Такие инструменты необходимы и для исследования систем ИИ и для их контроля и повышения надежности.

Владимир Губайловский

5eded2c2e7f821ffb2bb24d576a78b5d_ce_888x592x39x0.jpg
Астронавт, которого система ИИ спутала с лопатой. Brown University

Почему системы искусственного интеллекта могут превзойти человека в некоторых визуальных задачах, например, в распознавании лиц, но допускают вопиющие ошибки в других — например, про изображение астронавта, говорят, что это — лопата? 

К

ак и человеческий мозг, системы искусственного интеллекта опираются на определенные стратегии обработки и классификации изображений. И, как и в случае с человеческим мозгом, мало что известно о точной природе этих процессов. Ученые из Института науки о мозге Карни при Университете Брауна разбираются с тем, как обе эти системы работают, и добились определенного прогресса в понимании обеих систем.

«И человеческий мозг, и глубокие нейронные сети, на которых основаны системы искусственного интеллекта, называют черными ящиками, потому что мы не знаем точно, что происходит внутри», — говорит Томас Серр, профессор когнитивных, лингвистических и психологических наук и информатики в Брауне. — «Работа, которую мы проводим в Центре вычислительной науки о мозге Карни, направлена на то, чтобы понять и охарактеризовать механизмы мозга, связанные с обучением, зрением и другими видами деятельности, и выявить сходства и различия процессе в мозге с системами искусственного интеллекта».

Глубокие нейронные сети используют алгоритмы обучения для обработки изображений, говорит Серр. Они обучаются на массивных наборах данных, таких как ImageNet, который содержит более миллиона изображений, взятых из Интернета и разделенных на тысячи категорий. Обучение в основном заключается в подаче данных в систему ИИ, пояснил он.

«Мы не указываем системам ИИ, как обрабатывать изображения — например, какую информацию извлекать из изображений, чтобы иметь возможность их классифицировать», — говорит Серр. — «Система ИИ находит свою собственную стратегию. Затем ученые оценивают точность работы ИИ после обучения, например, система достигает 90% точности при различении тысячи категорий изображений».

Серр и его коллеги из Университета Брауна разрабатывают инструмент, который позволяет пользователям приоткрыть крышку «черного ящика» глубоких нейронных сетей и выяснить, какие стратегии используют системы искусственного интеллекта для обработки изображений.

Проект, названный CRAFT — Concept Recursive Activation FacTorization for Explainability — был совместным проектом с Институтом искусственного и естественного интеллекта Тулузы. В этом месяце он был представлен на конференции IEEE/CVF по компьютерному зрению и распознаванию образов в Ванкувере, Канада.

Серр рассказал о том, как CRAFT анализирует процесс, с помощью которого ИИ «видит» изображения, и объяснил исключительную важность понимания того, чем система компьютерного зрения отличается от человеческой. 

Томас Серр ответил на вопросы Techxplore.com.

Что показывает CRAFT о том, как ИИ обрабатывает изображения?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Палеонтологи восстановили перья археоптерикса, и объяснили как он летал Палеонтологи восстановили перья археоптерикса, и объяснили как он летал

Как ученые по оставшимся костям могут реконструировать облик археоптерикса?

ТехИнсайдер
Город для игр: как женщины-архитекторы создают необычные детские площадки Город для игр: как женщины-архитекторы создают необычные детские площадки

Игровые площадки — это точка притяжения не только для детей, но и для родителей

Forbes
Заглянули под капот: ученые выяснили, как ИИ принимает решения на разных этапах Заглянули под капот: ученые выяснили, как ИИ принимает решения на разных этапах

Что такое метод SAE Match и как он поможет заглянуть в «душу» ИИ?

Forbes
Каких святых на Руси считали покровителями женщин? Каких святых на Руси считали покровителями женщин?

Главной покровительницей женщин и материнства была Пресвятая Богородица

Культура.РФ
7 фруктов, которые нельзя хранить в холодильнике: мнение шеф-повара 7 фруктов, которые нельзя хранить в холодильнике: мнение шеф-повара

Каким фруктам не место в холодильнике

VOICE
Вышли из бухты Вышли из бухты

Robb Report изучил новые лодки и выбрал из них самые интересные

Robb Report
Семейные ценности Семейные ценности

Что случилось с наследием Виктора Вазарели?

Robb Report
Формула везения: можно ли объяснить удачу с научной точки зрения Формула везения: можно ли объяснить удачу с научной точки зрения

Что делать, чтобы удачные случайности стали происходить чаще?

Forbes
Ученые выяснили эволюционное значение мастурбации Ученые выяснили эволюционное значение мастурбации

Мастурбация повышает репродуктивный успех у самцов приматов

ТехИнсайдер
Чувство уюта Чувство уюта

Интерьер этой квартиры получился не только эстетичным, но и очень комфортным

SALON-Interior
Как писал Борис Поплавский Как писал Борис Поплавский

Как жил поэт Борис Поплавский и чем примечательны его тексты

СНОБ
«Профориентационные туристические маршруты помогут привлекать кадры» «Профориентационные туристические маршруты помогут привлекать кадры»

Чем промышленный туризм интересен бизнесу

РБК
Андрей Князев Андрей Князев

Эпичный камбэк «Короля и Шута» вызван сериалом-байопиком по творчеству «КИШа»

Собака.ru
Только для женщин Только для женщин

Симптомы, которые сигнализируют, что тебе срочно нужно на прием к гинекологу

Лиза
Семь самых загадочных археологических находок Семь самых загадочных археологических находок

Иногда древние артефакты заставляют ученых гадать о их назначении десятилетиями

Maxim
Вошли в династию: как выглядят мужья и жены детей знаменитых актеров Вошли в династию: как выглядят мужья и жены детей знаменитых актеров

Избранники и избранницы, которые вошли в знаменитые актерские династии

VOICE
Лидия Смирнова покоряла мужские сердца и в 80 лет Лидия Смирнова покоряла мужские сердца и в 80 лет

В фильмографии Смирновой много ярких образов

Коллекция. Караван историй
Физик разобрался в стабильности нити стрингшутера Физик разобрался в стабильности нити стрингшутера

Физик экспериментально и теоретически исследовал вращение нити в стрингшутере

N+1
4 правила идеальной лжи: как говорить неправду и выглядеть убедительным 4 правила идеальной лжи: как говорить неправду и выглядеть убедительным

Бывший специальный агент ФБР Джон Шафер раскрывает секреты идеальной лжи

Psychologies
Рецепторы мозга помогают разделить воображаемое и реальное Рецепторы мозга помогают разделить воображаемое и реальное

Ученые составили карту светофоров для мозга макак

ТехИнсайдер
Шея девочки была обвита пуповиной: дочь Брюса Уиллиса пережила тяжелые домашние роды Шея девочки была обвита пуповиной: дочь Брюса Уиллиса пережила тяжелые домашние роды

Румер Уиллис раскрыла шокирующие подробности рождения первенца

VOICE
Как научиться просыпаться по утрам без будильника? Как научиться просыпаться по утрам без будильника?

Как «запрограмировать» свои внутренние часы на нужный вам график?

ТехИнсайдер
Тоновый язык декодировали с помощью многопоточной нейронной сети Тоновый язык декодировали с помощью многопоточной нейронной сети

Нейронная сеть расшифровала тона и слоги независимо друг от друга

N+1
Мир первый и второй. Продолжение Мир первый и второй. Продолжение

Катерина Мурашова продолжает размышлять на тему классового деления в мире

СНОБ
Нейросеть изобразила 8 популярных психологических терминов: взгляните и оцените! Нейросеть изобразила 8 популярных психологических терминов: взгляните и оцените!

Midjourney создала иллюстрации, на которых показаны психологические термины

Psychologies
Оптические иллюзии возникают из-за наших глаз, а не психики! Интересные факты Оптические иллюзии возникают из-за наших глаз, а не психики! Интересные факты

Зрительные иллюзии вызваны ограничениями в работе глаз и зрительных нейронов

ТехИнсайдер
5 признаков, что вы — жертва эмоционального насилия 5 признаков, что вы — жертва эмоционального насилия

Каким бывает эмоциональное насилие и почему мы предпочитаем о нем молчать?

Psychologies
Пуд соли на двоих Пуд соли на двоих

Где заключаются браки и что нужно сделать, чтобы жить долго и счастливо?

Seasons of life
Эпоха возрождения Эпоха возрождения

В Мозамбике после гражданской войны восстанавливают Национальный парк Горонгоза

Robb Report
Тахир Базаров: «Переплавьте тревогу в любознательность» Тахир Базаров: «Переплавьте тревогу в любознательность»

Какие паттерны мышления руководителей устарели и чем их заменить

РБК
Открыть в приложении