Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдерHi-Tech

Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Ученые из Университета Брауна разработали инструмент, который может объяснить, как работают модели ИИ, классифицирующие изображения, работают и почему они ошибаются. Такие инструменты необходимы и для исследования систем ИИ и для их контроля и повышения надежности.

Владимир Губайловский

5eded2c2e7f821ffb2bb24d576a78b5d_ce_888x592x39x0.jpg
Астронавт, которого система ИИ спутала с лопатой. Brown University

Почему системы искусственного интеллекта могут превзойти человека в некоторых визуальных задачах, например, в распознавании лиц, но допускают вопиющие ошибки в других — например, про изображение астронавта, говорят, что это — лопата? 

К

ак и человеческий мозг, системы искусственного интеллекта опираются на определенные стратегии обработки и классификации изображений. И, как и в случае с человеческим мозгом, мало что известно о точной природе этих процессов. Ученые из Института науки о мозге Карни при Университете Брауна разбираются с тем, как обе эти системы работают, и добились определенного прогресса в понимании обеих систем.

«И человеческий мозг, и глубокие нейронные сети, на которых основаны системы искусственного интеллекта, называют черными ящиками, потому что мы не знаем точно, что происходит внутри», — говорит Томас Серр, профессор когнитивных, лингвистических и психологических наук и информатики в Брауне. — «Работа, которую мы проводим в Центре вычислительной науки о мозге Карни, направлена на то, чтобы понять и охарактеризовать механизмы мозга, связанные с обучением, зрением и другими видами деятельности, и выявить сходства и различия процессе в мозге с системами искусственного интеллекта».

Глубокие нейронные сети используют алгоритмы обучения для обработки изображений, говорит Серр. Они обучаются на массивных наборах данных, таких как ImageNet, который содержит более миллиона изображений, взятых из Интернета и разделенных на тысячи категорий. Обучение в основном заключается в подаче данных в систему ИИ, пояснил он.

«Мы не указываем системам ИИ, как обрабатывать изображения — например, какую информацию извлекать из изображений, чтобы иметь возможность их классифицировать», — говорит Серр. — «Система ИИ находит свою собственную стратегию. Затем ученые оценивают точность работы ИИ после обучения, например, система достигает 90% точности при различении тысячи категорий изображений».

Серр и его коллеги из Университета Брауна разрабатывают инструмент, который позволяет пользователям приоткрыть крышку «черного ящика» глубоких нейронных сетей и выяснить, какие стратегии используют системы искусственного интеллекта для обработки изображений.

Проект, названный CRAFT — Concept Recursive Activation FacTorization for Explainability — был совместным проектом с Институтом искусственного и естественного интеллекта Тулузы. В этом месяце он был представлен на конференции IEEE/CVF по компьютерному зрению и распознаванию образов в Ванкувере, Канада.

Серр рассказал о том, как CRAFT анализирует процесс, с помощью которого ИИ «видит» изображения, и объяснил исключительную важность понимания того, чем система компьютерного зрения отличается от человеческой. 

Томас Серр ответил на вопросы Techxplore.com.

Что показывает CRAFT о том, как ИИ обрабатывает изображения?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не спешите на свалку: как подарить вторую жизнь вашему старому ноутбуку Не спешите на свалку: как подарить вторую жизнь вашему старому ноутбуку

Как превратить вашего динозавра в шустрого помощника для работы и учебы?

ТехИнсайдер
В Монголии обнаружили древнейшее украшение в форме фаллоса В Монголии обнаружили древнейшее украшение в форме фаллоса

Древнейшее украшение в форме фаллоса, когда-либо найденное в мире

N+1
Дорого и сложно: что тормозит внедрение ИИ в медицину Дорого и сложно: что тормозит внедрение ИИ в медицину

Почему внедрение инноваций в медицине происходит так медленно?

Forbes
Борьба с домогательствами и самоирония: как женщины добивались равноправия в XXI веке Борьба с домогательствами и самоирония: как женщины добивались равноправия в XXI веке

Отрывок из книги Марисы Бейт «Периодическая таблица феминизма»

Forbes
Любите чай с молоком? Что это о вас говорит Любите чай с молоком? Что это о вас говорит

Способ заваривать и пить чай многое может рассказать о вашем характере

ТехИнсайдер
Новый подход к программам долгосрочной мотивации сотрудников: кейс «Авито» Новый подход к программам долгосрочной мотивации сотрудников: кейс «Авито»

Как компания «Авито» решила вопрос долгосрочной мотивации сотрудников

Forbes
Двойные стандарты в отношениях Двойные стандарты в отношениях

Как определить двойные стандарты в отношениях?

Лиза
За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана

Почему король Абдалла II так ценит свой личный островок спокойствия

VOICE
Человек — швейцарский нож: как пиарщики помогают в достижении бизнес-целей Человек — швейцарский нож: как пиарщики помогают в достижении бизнес-целей

Как сделать так, чтобы о тебе узнали, тем более в правильном и нужном ключе?

Inc.
«Базовая задача — регулирование трансграничного рынка» «Базовая задача — регулирование трансграничного рынка»

Каких мер ожидают от государства производители биологически активных добавок

РБК
Орангутаны немного побитбоксили Орангутаны немного побитбоксили

Приматологи слушали вокализации орангутанов с островов Борнео и Калитаман

N+1
«Если друг оказался вдруг»: 10 типов токсичных знакомых — проверьте ваше окружение «Если друг оказался вдруг»: 10 типов токсичных знакомых — проверьте ваше окружение

Черты личности, которые делают человека токсичным

Psychologies
В Кыргызстане едят камни? Поразительно, но да! Вот чем это объясняется В Кыргызстане едят камни? Поразительно, но да! Вот чем это объясняется

Зачем люди в Центральной Азии едят глину?

ТехИнсайдер
Свежевыжатые соки Свежевыжатые соки

Какие плюсы и минусы скрываются в ароматных соблазнах свежевыжатых соков?

Здоровье
Что делать, если громко урчит живот: 10 работающих лайфхаков Что делать, если громко урчит живот: 10 работающих лайфхаков

Как быстро избавиться от урчания в животе?

ТехИнсайдер
Русский рыболовный корабль попал в шторм. Рецензия на фильм «Снегирь» Русский рыболовный корабль попал в шторм. Рецензия на фильм «Снегирь»

Почему новый фильм «Снегирь» Бориса Хлебникова можно назвать политическим

СНОБ
Правила жизни Моисея Гинзбурга Правила жизни Моисея Гинзбурга

Правила жизни советского архитектора и одного из лидеров конструктивизма

Правила жизни
Рыбный день Рыбный день

Самые интересные места для рыбалки

Robb Report
Москвичка убила своего 10-месячного ребенка: может ли послеродовая депрессия спровоцировать трагедию? Москвичка убила своего 10-месячного ребенка: может ли послеродовая депрессия спровоцировать трагедию?

Чем опасна послеродовая депрессия и как помочь молодой матери справиться с ней

Psychologies
Прокрастинация: откуда берётся и как с ней быть Прокрастинация: откуда берётся и как с ней быть

Почему люди прокрастинируют и нужно ли с этим бороться?

VC.RU
«Подсознание: великолепная история человечества» «Подсознание: великолепная история человечества»

Как сны формируют наш мир и нас самих

N+1
«Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“ «Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“

Интервью с профессором Джеффри Саксом

Позитивные изменения
Не такие, как все: 5 животных, у которых кровь не красного цвета Не такие, как все: 5 животных, у которых кровь не красного цвета

От чего зависит цвет крови у животных и у кого она самого странного цвета?

ТехИнсайдер
Почему спортивная одежда должна быть синтетической? Почему спортивная одежда должна быть синтетической?

В чем преимущество синтетической спортивной формы?

Maxim
Сергей Сельянов Сергей Сельянов

Патриарх независимого российского кинематографа

Собака.ru
Трудоголизм и лудомания: 6 видов современных поведенческих зависимостей — проверьте себя Трудоголизм и лудомания: 6 видов современных поведенческих зависимостей — проверьте себя

Существует большое количество поведенческих зависимостей, с которыми мы живем

Psychologies
«Тед Лассо»: чему нас научил заключительный сезон самого жизнеутверждающего телешоу «Тед Лассо»: чему нас научил заключительный сезон самого жизнеутверждающего телешоу

Как «Тед Лассо» научил нас, что настоящая поддержка побеждает боль?

Psychologies
Олег Чечик: «Любое искусство — это техника плюс эмоции» Олег Чечик: «Любое искусство — это техника плюс эмоции»

Олег Чечик о своей профессии

Maxim
Господь создал Еву из ребра Адама, а Виктор Калнберз стал первым хирургом СССР, который провел операцию по смене пола Господь создал Еву из ребра Адама, а Виктор Калнберз стал первым хирургом СССР, который провел операцию по смене пола

Именно в СССР впервые была проведена операция по смене пола

ТехИнсайдер
Главный фантаст Китая Лю Цысинь: секрет успеха «Задачи трех тел» Главный фантаст Китая Лю Цысинь: секрет успеха «Задачи трех тел»

Рассказываем о книгах Лю Цысиня и его пути к успеху

Maxim
Открыть в приложении