Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдерHi-Tech

Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Ученые из Университета Брауна разработали инструмент, который может объяснить, как работают модели ИИ, классифицирующие изображения, работают и почему они ошибаются. Такие инструменты необходимы и для исследования систем ИИ и для их контроля и повышения надежности.

Владимир Губайловский

5eded2c2e7f821ffb2bb24d576a78b5d_ce_888x592x39x0.jpg
Астронавт, которого система ИИ спутала с лопатой. Brown University

Почему системы искусственного интеллекта могут превзойти человека в некоторых визуальных задачах, например, в распознавании лиц, но допускают вопиющие ошибки в других — например, про изображение астронавта, говорят, что это — лопата? 

К

ак и человеческий мозг, системы искусственного интеллекта опираются на определенные стратегии обработки и классификации изображений. И, как и в случае с человеческим мозгом, мало что известно о точной природе этих процессов. Ученые из Института науки о мозге Карни при Университете Брауна разбираются с тем, как обе эти системы работают, и добились определенного прогресса в понимании обеих систем.

«И человеческий мозг, и глубокие нейронные сети, на которых основаны системы искусственного интеллекта, называют черными ящиками, потому что мы не знаем точно, что происходит внутри», — говорит Томас Серр, профессор когнитивных, лингвистических и психологических наук и информатики в Брауне. — «Работа, которую мы проводим в Центре вычислительной науки о мозге Карни, направлена на то, чтобы понять и охарактеризовать механизмы мозга, связанные с обучением, зрением и другими видами деятельности, и выявить сходства и различия процессе в мозге с системами искусственного интеллекта».

Глубокие нейронные сети используют алгоритмы обучения для обработки изображений, говорит Серр. Они обучаются на массивных наборах данных, таких как ImageNet, который содержит более миллиона изображений, взятых из Интернета и разделенных на тысячи категорий. Обучение в основном заключается в подаче данных в систему ИИ, пояснил он.

«Мы не указываем системам ИИ, как обрабатывать изображения — например, какую информацию извлекать из изображений, чтобы иметь возможность их классифицировать», — говорит Серр. — «Система ИИ находит свою собственную стратегию. Затем ученые оценивают точность работы ИИ после обучения, например, система достигает 90% точности при различении тысячи категорий изображений».

Серр и его коллеги из Университета Брауна разрабатывают инструмент, который позволяет пользователям приоткрыть крышку «черного ящика» глубоких нейронных сетей и выяснить, какие стратегии используют системы искусственного интеллекта для обработки изображений.

Проект, названный CRAFT — Concept Recursive Activation FacTorization for Explainability — был совместным проектом с Институтом искусственного и естественного интеллекта Тулузы. В этом месяце он был представлен на конференции IEEE/CVF по компьютерному зрению и распознаванию образов в Ванкувере, Канада.

Серр рассказал о том, как CRAFT анализирует процесс, с помощью которого ИИ «видит» изображения, и объяснил исключительную важность понимания того, чем система компьютерного зрения отличается от человеческой. 

Томас Серр ответил на вопросы Techxplore.com.

Что показывает CRAFT о том, как ИИ обрабатывает изображения?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На седьмое небо за пиццей: удивительные факты о высотных вращающихся ресторанах На седьмое небо за пиццей: удивительные факты о высотных вращающихся ресторанах

Как работает это чудо строительной инженерии — высотные вращающиеся рестораны?

ТехИнсайдер
Найден Найден

Ученые обнаружили следы «протостериновой биоты»

ТехИнсайдер
Велосипеды, ткацкие станки и кофемолки: что выпускали известные автомобильные бренды до машин Велосипеды, ткацкие станки и кофемолки: что выпускали известные автомобильные бренды до машин

С каких товаров начинали свой путь автомобильные гиганты?

ТехИнсайдер
Среди старых находок из памятника Грот-дю-Ренн обнаружили два неандертальских зуба Среди старых находок из памятника Грот-дю-Ренн обнаружили два неандертальских зуба

Палеоантропологи повторно исследовали коллекцию фаунистических остатков

N+1
Новое открытие в нейробиологии: ученые разобрались, как на самом деле работает память Новое открытие в нейробиологии: ученые разобрались, как на самом деле работает память

Какой процесс играет ключевую роль в том, как хранятся воспоминания?

Inc.
Нина Тарасова Нина Тарасова

Нина Тарасова — азартный хранитель и смелый куратор

Собака.ru
В 1986 году рядом с озером Ньос умерло 1746 человек и все животные. Это случилось за пару секунд В 1986 году рядом с озером Ньос умерло 1746 человек и все животные. Это случилось за пару секунд

21 августа 1986 года на озере Ньос был слышен странный грохочущий звук...

ТехИнсайдер
10 способов избежать укусов клеща этим летом 10 способов избежать укусов клеща этим летом

Как снизить риск заражения клещевыми заболеваниями.

ТехИнсайдер
Зубами щелк… Зубами щелк…

Почему щелкает челюсть и как с этим справиться

Лиза
Московский скоростной диаметр: зачем он нужен и как по нему ездить Московский скоростной диаметр: зачем он нужен и как по нему ездить

Какие задачи решает Московский скоростной диаметр и как им пользоваться

РБК
Роботреугольники объединились в оригами-робота Роботреугольники объединились в оригами-робота

Инженеры разработали робота, состоящего из отдельных самостоятельных элементов

N+1
Байки новой реальности Байки новой реальности

Сколько теперь стоят мотоциклы

Деньги
Как узнать материнскую плату: 7 простых способов Как узнать материнскую плату: 7 простых способов

Как узнать модель материнской платы в Windows 10 или 11?

CHIP
Контуринг: как выбрать окрашивание по типу лица и цвету волос Контуринг: как выбрать окрашивание по типу лица и цвету волос

Контуринг: что это за окрашивание и как достичь наилучшего результата

РБК
Почему опасно делать гель-маникюр дома: эта ошибка может испортить здоровье на всю жизнь Почему опасно делать гель-маникюр дома: эта ошибка может испортить здоровье на всю жизнь

Почему нужно быть осторожной с гель-лаком?

VOICE
Лидия Смирнова покоряла мужские сердца и в 80 лет Лидия Смирнова покоряла мужские сердца и в 80 лет

В фильмографии Смирновой много ярких образов

Коллекция. Караван историй
От проклятия до болезни: что думали о месячных в прошлом — и как с ними справлялись От проклятия до болезни: что думали о месячных в прошлом — и как с ними справлялись

Как в прошлом люди воспринимали менструацию? Какой была гигиена?

Psychologies
Как преодолеть любые жизненные испытания: 3 главных шага Как преодолеть любые жизненные испытания: 3 главных шага

Можем ли мы научиться чему-то у героев жизнеутверждающих фильмов?

Psychologies
Михаил Уржумцев Михаил Уржумцев

Михаил Уржумцев уже 30 лет пишет новейшую историю модной индустрии страны

Собака.ru
Икота Икота

Даже физиологи не до конца понимают, почему мозг «клинит» на дыхании

Здоровье
Целый зоопарк: необычные домашние питомцы звезд — осел, обезьяна и даже свинья Целый зоопарк: необычные домашние питомцы звезд — осел, обезьяна и даже свинья

Эти звезды проявили фантазию при поиске питомца

VOICE
Перенести завод из ХХ века в ХХI Перенести завод из ХХ века в ХХI

Как добиться максимального эффекта цифровизации промышленности?

Эксперт
Долой стереотипы. 4 популярных правила тренировок, которым пора перестать следовать Долой стереотипы. 4 популярных правила тренировок, которым пора перестать следовать

Многие из этих стереотипов давно устарели, а некоторые просто не работают

Лиза
Самые уязвимые: как стигма в обществе влияет на женщин с ментальными расстройствами Самые уязвимые: как стигма в обществе влияет на женщин с ментальными расстройствами

Как стигматизация повышает уязвимость женщин с ментальными расстройствами

Forbes
Как тип привязанности повлияет на ваши отношения: 3 сценария Как тип привязанности повлияет на ваши отношения: 3 сценария

Как сценарий отношений зависит от детского опыта партнеров?

Psychologies
Как быстро похудеть на 5 кг: помогут эти упражнения с утяжелителями Как быстро похудеть на 5 кг: помогут эти упражнения с утяжелителями

Упражнения, которые задействуют более одной группы мышц одновременно

VOICE
Как определить форму лица и можно ли ее исправить Как определить форму лица и можно ли ее исправить

Какие формы лица существуют и как определить свою?

РБК
Fine wine. Как выбрать вино для коллекции и инвестирования Fine wine. Как выбрать вино для коллекции и инвестирования

Коллекционирование вин — давно уже не просто романтическое хобби

Правила жизни
23-летний россиянин съеден акулой. Почему нас ужасают такие события? 23-летний россиянин съеден акулой. Почему нас ужасают такие события?

Почему психика ярко реагирует на драматичные истории гибели людей?

Psychologies
Работа до посинения Работа до посинения

Почему будет падать спрос на белых воротничков

РБК
Открыть в приложении