Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдерHi-Tech

Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Ученые из Университета Брауна разработали инструмент, который может объяснить, как работают модели ИИ, классифицирующие изображения, работают и почему они ошибаются. Такие инструменты необходимы и для исследования систем ИИ и для их контроля и повышения надежности.

Владимир Губайловский

5eded2c2e7f821ffb2bb24d576a78b5d_ce_888x592x39x0.jpg
Астронавт, которого система ИИ спутала с лопатой. Brown University

Почему системы искусственного интеллекта могут превзойти человека в некоторых визуальных задачах, например, в распознавании лиц, но допускают вопиющие ошибки в других — например, про изображение астронавта, говорят, что это — лопата? 

К

ак и человеческий мозг, системы искусственного интеллекта опираются на определенные стратегии обработки и классификации изображений. И, как и в случае с человеческим мозгом, мало что известно о точной природе этих процессов. Ученые из Института науки о мозге Карни при Университете Брауна разбираются с тем, как обе эти системы работают, и добились определенного прогресса в понимании обеих систем.

«И человеческий мозг, и глубокие нейронные сети, на которых основаны системы искусственного интеллекта, называют черными ящиками, потому что мы не знаем точно, что происходит внутри», — говорит Томас Серр, профессор когнитивных, лингвистических и психологических наук и информатики в Брауне. — «Работа, которую мы проводим в Центре вычислительной науки о мозге Карни, направлена на то, чтобы понять и охарактеризовать механизмы мозга, связанные с обучением, зрением и другими видами деятельности, и выявить сходства и различия процессе в мозге с системами искусственного интеллекта».

Глубокие нейронные сети используют алгоритмы обучения для обработки изображений, говорит Серр. Они обучаются на массивных наборах данных, таких как ImageNet, который содержит более миллиона изображений, взятых из Интернета и разделенных на тысячи категорий. Обучение в основном заключается в подаче данных в систему ИИ, пояснил он.

«Мы не указываем системам ИИ, как обрабатывать изображения — например, какую информацию извлекать из изображений, чтобы иметь возможность их классифицировать», — говорит Серр. — «Система ИИ находит свою собственную стратегию. Затем ученые оценивают точность работы ИИ после обучения, например, система достигает 90% точности при различении тысячи категорий изображений».

Серр и его коллеги из Университета Брауна разрабатывают инструмент, который позволяет пользователям приоткрыть крышку «черного ящика» глубоких нейронных сетей и выяснить, какие стратегии используют системы искусственного интеллекта для обработки изображений.

Проект, названный CRAFT — Concept Recursive Activation FacTorization for Explainability — был совместным проектом с Институтом искусственного и естественного интеллекта Тулузы. В этом месяце он был представлен на конференции IEEE/CVF по компьютерному зрению и распознаванию образов в Ванкувере, Канада.

Серр рассказал о том, как CRAFT анализирует процесс, с помощью которого ИИ «видит» изображения, и объяснил исключительную важность понимания того, чем система компьютерного зрения отличается от человеческой. 

Томас Серр ответил на вопросы Techxplore.com.

Что показывает CRAFT о том, как ИИ обрабатывает изображения?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как работает Межвселенский насос – удивительный источник энергии, придуманный Айзеком Азимовым Как работает Межвселенский насос – удивительный источник энергии, придуманный Айзеком Азимовым

Как работает насос между вселенными и как Азимов изобрел его

ТехИнсайдер
Шурыгина, Солнцев, Бугатти: что стало с героями скандальных ток-шоу Шурыгина, Солнцев, Бугатти: что стало с героями скандальных ток-шоу

Как же сейчас выглядят и чем живут одни из самых ярких звездочек на один эфир?

VOICE
Типы матриц телевизоров: выбираем лучшую Типы матриц телевизоров: выбираем лучшую

Матрицы телевизоров: как в них не запутаться и какой тип выбрать?

CHIP
Почему монструозный стиль подвинул в сторону «чистых» девушек Почему монструозный стиль подвинул в сторону «чистых» девушек

Почему стиль «хорошей девочки» начал уступать «дерзкой девчонке»?

Psychologies
Стесняюсь спросить: как распознать болезнь Альцгеймера? Стесняюсь спросить: как распознать болезнь Альцгеймера?

Альцгеймер: как распознать на ранних этапах и встречается ли он у молодых?

Правила жизни
Как избавиться от вредителей в саду без химии: 7 спреев, которые можно приготовить в домашних условиях Как избавиться от вредителей в саду без химии: 7 спреев, которые можно приготовить в домашних условиях

Больше никаких химикатов!

ТехИнсайдер
Разумозамещение Разумозамещение

Искусственный интеллект в финансовой сфере

Деньги
Сергей Салкуцан: «Очаги цифровизации возникают в разных областях знаний» Сергей Салкуцан: «Очаги цифровизации возникают в разных областях знаний»

Как меняется наука сегодня и может ли ИИ заменить ученого?

РБК
И на земле И на земле

Готовиться к бомбардировкам британцы начали задолго до войны

Дилетант
«Эти дни» на Уимблдоне: как теннисистки отстояли право не носить белое белье «Эти дни» на Уимблдоне: как теннисистки отстояли право не носить белое белье

Теннисистки несколько раз поднимали одну из самых табуированных тем в обществе

Forbes
Красивый загар Красивый загар

Реально ли стать шоколадной в максимально короткое время?

Лиза
Введение аденовирусного вектора в мозг вылечило глухоту у взрослых мышей Введение аденовирусного вектора в мозг вылечило глухоту у взрослых мышей

Введение аденовирусного вектора вернуло слух глухим взрослым мышам

N+1
Что пишут о фильме «Человек-паук: Паутина вселенных»? Что пишут о фильме «Человек-паук: Паутина вселенных»?

Получилось ли у фильма «Человек-паук: Паутина вселенных» задрать планку?

Правила жизни
Как правильно мыть голову: 8 простых шагов Как правильно мыть голову: 8 простых шагов

Красивые волосы — это про генетику? Так думают многие и ошибаются

Psychologies
Вышли из бухты Вышли из бухты

Robb Report изучил новые лодки и выбрал из них самые интересные

Robb Report
5 признаков, что ты пришла в плохую парикмахерскую: их должна знать каждая женщина 5 признаков, что ты пришла в плохую парикмахерскую: их должна знать каждая женщина

Выбрать хорошего парикмахера не так просто, как кажется на первый взгляд

VOICE
В гостях у Майи Плисецкой В гостях у Майи Плисецкой

Сергей Николаевич — о музее-квартире Плисецкой

Seasons of life
5 летних образов с джинсовкой, которые покажут твой вкус: подборка от стилиста 5 летних образов с джинсовкой, которые покажут твой вкус: подборка от стилиста

Look'и с джинсовыми куртками из моды не выйдут никогда. Показываем и доказываем!

VOICE
Клим Шипенко: «Космос точно вызывает зависимость» Клим Шипенко: «Космос точно вызывает зависимость»

История от первого режиссера, который побывал в космосе, и привез оттуда фильм!

Maxim
«Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха «Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха

Чем существеннее ваши достижения, тем выше вероятность разозлить окружающих

Psychologies
Максим Матвеев: «Поход к терапевту не делает тебя психом» Максим Матвеев: «Поход к терапевту не делает тебя психом»

Интервью с одним из самых востребованных актеров страны

СНОБ
Как нейросети создают персонажей и киновселенные Как нейросети создают персонажей и киновселенные

Разбираемся, как используют нейросети в современной киноиндустрии

CHIP
Александр Цыпкин Александр Цыпкин

За год у Александра было четыре театральные премьеры спектаклей по его текстам

Собака.ru
Как узнать сколько осталось трафика и сколько израсходовано Как узнать сколько осталось трафика и сколько израсходовано

Если гигабайты куда-то утекают, вот инструкция, как всё держать под контролем

CHIP
5 способов сделать капучино в домашних условиях 5 способов сделать капучино в домашних условиях

Как сделать капучино дома, не используя дополнительную технику?

CHIP
Гори, не гасни: причины и способы предотвращения профессионального выгорания Гори, не гасни: причины и способы предотвращения профессионального выгорания

Как быть, если столкнулся с профессиональным выгоранием?

ТехИнсайдер
Периферийное зрение Периферийное зрение

Карина Бесолти в своих работах отстаивает частного человека и его голос

СНОБ
Поощрялись ли в старину неравные браки? Поощрялись ли в старину неравные браки?

Какими были браки и венчания в старину

Культура.РФ
Математики нашли девятое дедекиндово число. В нем оказалось 42 знака Математики нашли девятое дедекиндово число. В нем оказалось 42 знака

Математики рассчитали значение девятого числа Дедекинда

N+1
В сердечном ритме В сердечном ритме

Почему у современного ритма жизни есть «сердечное» сопровождение?

Лиза
Открыть в приложении