Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдерHi-Tech

Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Ученые из Университета Брауна разработали инструмент, который может объяснить, как работают модели ИИ, классифицирующие изображения, работают и почему они ошибаются. Такие инструменты необходимы и для исследования систем ИИ и для их контроля и повышения надежности.

Владимир Губайловский

5eded2c2e7f821ffb2bb24d576a78b5d_ce_888x592x39x0.jpg
Астронавт, которого система ИИ спутала с лопатой. Brown University

Почему системы искусственного интеллекта могут превзойти человека в некоторых визуальных задачах, например, в распознавании лиц, но допускают вопиющие ошибки в других — например, про изображение астронавта, говорят, что это — лопата? 

К

ак и человеческий мозг, системы искусственного интеллекта опираются на определенные стратегии обработки и классификации изображений. И, как и в случае с человеческим мозгом, мало что известно о точной природе этих процессов. Ученые из Института науки о мозге Карни при Университете Брауна разбираются с тем, как обе эти системы работают, и добились определенного прогресса в понимании обеих систем.

«И человеческий мозг, и глубокие нейронные сети, на которых основаны системы искусственного интеллекта, называют черными ящиками, потому что мы не знаем точно, что происходит внутри», — говорит Томас Серр, профессор когнитивных, лингвистических и психологических наук и информатики в Брауне. — «Работа, которую мы проводим в Центре вычислительной науки о мозге Карни, направлена на то, чтобы понять и охарактеризовать механизмы мозга, связанные с обучением, зрением и другими видами деятельности, и выявить сходства и различия процессе в мозге с системами искусственного интеллекта».

Глубокие нейронные сети используют алгоритмы обучения для обработки изображений, говорит Серр. Они обучаются на массивных наборах данных, таких как ImageNet, который содержит более миллиона изображений, взятых из Интернета и разделенных на тысячи категорий. Обучение в основном заключается в подаче данных в систему ИИ, пояснил он.

«Мы не указываем системам ИИ, как обрабатывать изображения — например, какую информацию извлекать из изображений, чтобы иметь возможность их классифицировать», — говорит Серр. — «Система ИИ находит свою собственную стратегию. Затем ученые оценивают точность работы ИИ после обучения, например, система достигает 90% точности при различении тысячи категорий изображений».

Серр и его коллеги из Университета Брауна разрабатывают инструмент, который позволяет пользователям приоткрыть крышку «черного ящика» глубоких нейронных сетей и выяснить, какие стратегии используют системы искусственного интеллекта для обработки изображений.

Проект, названный CRAFT — Concept Recursive Activation FacTorization for Explainability — был совместным проектом с Институтом искусственного и естественного интеллекта Тулузы. В этом месяце он был представлен на конференции IEEE/CVF по компьютерному зрению и распознаванию образов в Ванкувере, Канада.

Серр рассказал о том, как CRAFT анализирует процесс, с помощью которого ИИ «видит» изображения, и объяснил исключительную важность понимания того, чем система компьютерного зрения отличается от человеческой. 

Томас Серр ответил на вопросы Techxplore.com.

Что показывает CRAFT о том, как ИИ обрабатывает изображения?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Наиболее сохранившиеся животные ледникового периода Наиболее сохранившиеся животные ледникового периода

Эти доисторические животные дают возможность заглянуть в прошлое

ТехИнсайдер
На чужом несчастье: как Стинг разрушил свой брак ради настоящей любви На чужом несчастье: как Стинг разрушил свой брак ради настоящей любви

Долгие семейные союзы в Голливуде редкость, но Стинг и Труди — исключение

VOICE
Почему телемедицина в России пока остается нишевым продуктом Почему телемедицина в России пока остается нишевым продуктом

Телемедицина в России: стоит ли записываться на удаленный прием к врачу?

РБК
Только для женщин Только для женщин

Симптомы, которые сигнализируют, что тебе срочно нужно на прием к гинекологу

Лиза
На борту затонувшего средневекового китайского судна нашли сосуды из-под алкогольных напитков На борту затонувшего средневекового китайского судна нашли сосуды из-под алкогольных напитков

Находки, собранные во время раскопок средневекового судна «Наньхай №1»

N+1
Как заставить окружающих прислушиваться к вашему мнению: 4 совета Как заставить окружающих прислушиваться к вашему мнению: 4 совета

Как же начать «звучать» убедительнее для других?

Psychologies
Новостройки держатся Новостройки держатся

Цены стагнируют на фоне роста предложения и нестабильности спроса

Деньги
10 самых живописных пляжей России 10 самых живописных пляжей России

Песок и галька, косы и мысы, горы и скалы

Караван историй
Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова

Палеогенетики прочитали ДНК девяти человек, живших в позднем эпипалеолите

N+1
Разработан метод, который позволяет с вероятностью 99% определить статью, написанную чат-ботом Разработан метод, который позволяет с вероятностью 99% определить статью, написанную чат-ботом

Создан инструмент для идентификации академических научных текстов, созданных ИИ

ТехИнсайдер
Что ели на Руси до картошки? Что ели на Руси до картошки?

До XVII века на Руси господствовали совершенно другие продукты

Культура.РФ
Самые неожиданные способы заразиться венерическими болезнями Самые неожиданные способы заразиться венерическими болезнями

Гонореей, сифилисом, хламидиозом можно заразиться бытовым путем

Maxim
Закрытый клуб любителей оливье: как на самом деле живут русские экспаты в Дубае Закрытый клуб любителей оливье: как на самом деле живут русские экспаты в Дубае

Как живут россияне в ОАЭ и почему после переезда они полюбили русские традиции

Forbes
Art&Science ИТМО Art&Science ИТМО

Команда ИТМО — главные в Росси по Art&Science: науке, искусству и технологиям

Собака.ru
Ответственное родительство связали с успехами детей в инженерии и математике Ответственное родительство связали с успехами детей в инженерии и математике

Ответственное родительство уменьшает разрыв в неравенстве между детьми

N+1
Одиночество лидера Одиночество лидера

Одиночество как проявление силы человека в исполнении Николая Рериха

Вокруг света
Основатель Masters Полина Бондарева — о Левашовском хлебозаводе Основатель Masters Полина Бондарева — о Левашовском хлебозаводе

Как бизнес идет в сторону искусства, а искусство продолжает искать новые формы

РБК
Древнерусская невеста: как выходили замуж и устраивали свадебные пиры на Руси Древнерусская невеста: как выходили замуж и устраивали свадебные пиры на Руси

На Руси свадьба была делом общесемейным, поэтому заключались браки как сделки

Forbes
Как получать удовольствие от повседневных дел: секреты позитивной психологии Как получать удовольствие от повседневных дел: секреты позитивной психологии

Как сделать каждый день ярким, а рутинные дела — приятными?

Psychologies
Рыбный день Рыбный день

Самые интересные места для рыбалки

Robb Report
Единицы измерений, связанные с телом человека, возвращаются. Зачем сажени и пяди нужны дизайнерам Единицы измерений, связанные с телом человека, возвращаются. Зачем сажени и пяди нужны дизайнерам

Почему дизайнеры все чаще используют меры длины, связанные с телом?

ТехИнсайдер
Работа до посинения Работа до посинения

Почему будет падать спрос на белых воротничков

РБК
Туризм как точка роста Туризм как точка роста

Россия планирует новые масштабные проекты

Деньги
5 способов сделать капучино в домашних условиях 5 способов сделать капучино в домашних условиях

Как сделать капучино дома, не используя дополнительную технику?

CHIP
Мифы об известных писателях Мифы об известных писателях

10 самых популярных заблуждений, в которые верят даже начитанные интеллектуалы

Maxim
Человек со свойствами и средствами Человек со свойствами и средствами

«Счастливчик Хэнк»: симпатичная кампусная драма

Weekend
Ламинирование ресниц: плюсы, минусы и противопоказания к процедуре Ламинирование ресниц: плюсы, минусы и противопоказания к процедуре

Разбираемся вместе с экспертами, что лучше: ламинирование или ботокс ресниц?

РБК
«Это жалкий муж для меня»: как отдавали под венец представительниц знати «Это жалкий муж для меня»: как отдавали под венец представительниц знати

О блистательной сестре Александра I и ее браке

Forbes
Гельголанд, роковой остров Гельголанд, роковой остров

Маленький остров Гельголанд пережил много всего

Дилетант
Почему женщины все еще боятся маммографии: 3 главных страха Почему женщины все еще боятся маммографии: 3 главных страха

Что останавливает женщин от похода к маммологу и что делать

Psychologies
Открыть в приложении