Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдерHi-Tech

Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Ученые из Университета Брауна разработали инструмент, который может объяснить, как работают модели ИИ, классифицирующие изображения, работают и почему они ошибаются. Такие инструменты необходимы и для исследования систем ИИ и для их контроля и повышения надежности.

Владимир Губайловский

5eded2c2e7f821ffb2bb24d576a78b5d_ce_888x592x39x0.jpg
Астронавт, которого система ИИ спутала с лопатой. Brown University

Почему системы искусственного интеллекта могут превзойти человека в некоторых визуальных задачах, например, в распознавании лиц, но допускают вопиющие ошибки в других — например, про изображение астронавта, говорят, что это — лопата? 

К

ак и человеческий мозг, системы искусственного интеллекта опираются на определенные стратегии обработки и классификации изображений. И, как и в случае с человеческим мозгом, мало что известно о точной природе этих процессов. Ученые из Института науки о мозге Карни при Университете Брауна разбираются с тем, как обе эти системы работают, и добились определенного прогресса в понимании обеих систем.

«И человеческий мозг, и глубокие нейронные сети, на которых основаны системы искусственного интеллекта, называют черными ящиками, потому что мы не знаем точно, что происходит внутри», — говорит Томас Серр, профессор когнитивных, лингвистических и психологических наук и информатики в Брауне. — «Работа, которую мы проводим в Центре вычислительной науки о мозге Карни, направлена на то, чтобы понять и охарактеризовать механизмы мозга, связанные с обучением, зрением и другими видами деятельности, и выявить сходства и различия процессе в мозге с системами искусственного интеллекта».

Глубокие нейронные сети используют алгоритмы обучения для обработки изображений, говорит Серр. Они обучаются на массивных наборах данных, таких как ImageNet, который содержит более миллиона изображений, взятых из Интернета и разделенных на тысячи категорий. Обучение в основном заключается в подаче данных в систему ИИ, пояснил он.

«Мы не указываем системам ИИ, как обрабатывать изображения — например, какую информацию извлекать из изображений, чтобы иметь возможность их классифицировать», — говорит Серр. — «Система ИИ находит свою собственную стратегию. Затем ученые оценивают точность работы ИИ после обучения, например, система достигает 90% точности при различении тысячи категорий изображений».

Серр и его коллеги из Университета Брауна разрабатывают инструмент, который позволяет пользователям приоткрыть крышку «черного ящика» глубоких нейронных сетей и выяснить, какие стратегии используют системы искусственного интеллекта для обработки изображений.

Проект, названный CRAFT — Concept Recursive Activation FacTorization for Explainability — был совместным проектом с Институтом искусственного и естественного интеллекта Тулузы. В этом месяце он был представлен на конференции IEEE/CVF по компьютерному зрению и распознаванию образов в Ванкувере, Канада.

Серр рассказал о том, как CRAFT анализирует процесс, с помощью которого ИИ «видит» изображения, и объяснил исключительную важность понимания того, чем система компьютерного зрения отличается от человеческой. 

Томас Серр ответил на вопросы Techxplore.com.

Что показывает CRAFT о том, как ИИ обрабатывает изображения?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Монеты, отчеканенные 1500 лет назад с одного штемпеля, рассказали о древних торговых путях Монеты, отчеканенные 1500 лет назад с одного штемпеля, рассказали о древних торговых путях

Что древние монеты рассказали об экономической интеграции Юго-Восточной Азии

ТехИнсайдер
Травматический опыт: что происходит с психикой при ПТСР и как это описать Травматический опыт: что происходит с психикой при ПТСР и как это описать

Как у людей проявляется посттравматическое стрессовое расстройство

Psychologies
Оригами-робота научили прижимать ноги и ходить по-крабьи Оригами-робота научили прижимать ноги и ходить по-крабьи

Инженер из Германии разработал четвероногого оригами-робота Fold Walker

N+1
Как космические путешествия медленно убивают иммунитет человека: что ждет астронавтов будущего Как космические путешествия медленно убивают иммунитет человека: что ждет астронавтов будущего

Условия космических путешествий изменяют экспрессию генов астронавтов

ТехИнсайдер
«Был честен с собой и со своим ремеслом»: каким был путь в искусстве Карла Брюллова «Был честен с собой и со своим ремеслом»: каким был путь в искусстве Карла Брюллова

Каким был путь в искусстве Карла Брюллова и как его показывают в музеях

Forbes
Не совершайте ошибку! 7 продуктов, которые категорически нельзя замораживать Не совершайте ошибку! 7 продуктов, которые категорически нельзя замораживать

Некоторые продукты категорически нельзя замораживать — рассказываем, почему

ТехИнсайдер
«Черное золото» России: как икра из дешевой закуски стала символом роскоши «Черное золото» России: как икра из дешевой закуски стала символом роскоши

История деликатеса, который в США подавали как закуску вместо арахиса

Forbes
Преступники или герои? Какими бывают хакеры и правда ли все они программисты Преступники или герои? Какими бывают хакеры и правда ли все они программисты

Денис Ройо делится своим видением мира хакеров изнутри

ТехИнсайдер
То исчезает, то появляется… То исчезает, то появляется…

Возможно, ты тоже сталкивалась с мужчинами, которые пропадали из твоей жизни

Лиза
Игра по-круппному Игра по-круппному

Как семейная компания повлияла на историю Европы

Деньги
Привычки, которые портят твои ноги — не делай так, если хочешь носить мини и шорты Привычки, которые портят твои ноги — не делай так, если хочешь носить мини и шорты

Нагрузка помогает сделать ножки подтянутыми, но может вызвать и обратный эффект

VOICE
Как сутенер и педофил Джеффри Эпштейн пытался себя обелить: новые подробности скандала Как сутенер и педофил Джеффри Эпштейн пытался себя обелить: новые подробности скандала

Какой была реальная власть покойного миллиардера-преступника Джеффри Эпштейна?

Psychologies
Откуда взялся Indian Pale Ale (IPA) и чем отличаются его сорта между собой. История и краткий гид Откуда взялся Indian Pale Ale (IPA) и чем отличаются его сорта между собой. История и краткий гид

Пора разобраться со путаницей Indian Pale Ale: с ее истоками и последствиями.

Maxim
Торможение на повороте: что мешает построить в России экономику предложения Торможение на повороте: что мешает построить в России экономику предложения

Экономика предложения: достаточно ли в России производственных ресурсов для нее?

Forbes
На северо-западе Франции нашли три клада эпохи бронзы На северо-западе Франции нашли три клада эпохи бронзы

Во французской Бретани обнаружили три древних клада

N+1
Крикет круче хоккея, а ММА теснит бокс: 10 самых популярных видов спорта Крикет круче хоккея, а ММА теснит бокс: 10 самых популярных видов спорта

Самые популярные виды спорта: от ММА и гольфа до крикета и футбола

Forbes
Зона бикини Зона бикини

Удаление волос – настоящее испытание для кожи

Лиза
Могли ли динозавры видеть «чужими глазами»: любопытное исследование Могли ли динозавры видеть «чужими глазами»: любопытное исследование

Могли ли динозавры использовать визуальное восприятие перспективы?

ТехИнсайдер
Как избавиться от храпа женщине и мужчине и почему человек храпит Как избавиться от храпа женщине и мужчине и почему человек храпит

Почему человек храпит?

РБК
«А мне все мало». Как побороть постоянное чувство голода «А мне все мало». Как побороть постоянное чувство голода

Что делать, если хочется есть, даже если ты недавно поела

Лиза
Тонкое взаимодействие Тонкое взаимодействие

Интерьер дома, построенного по индивидуальному проекту, сложился подобно пазлу

Идеи Вашего Дома
Эти работники могут выдохнуть: 8 профессий, которые не сможет заменить ИИ (пока) Эти работники могут выдохнуть: 8 профессий, которые не сможет заменить ИИ (пока)

Какие профессии невозможно автоматизировать?

ТехИнсайдер
Каких святых на Руси считали покровителями женщин? Каких святых на Руси считали покровителями женщин?

Главной покровительницей женщин и материнства была Пресвятая Богородица

Культура.РФ
Под Суздалем нашли печать Юрия Долгорукого Под Суздалем нашли печать Юрия Долгорукого

Археологи рассказали о результатах раскопок на селище Спасское городище-7

N+1
«Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре «Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре

Постоянный обмен — лучший способ углубить отношения

Psychologies
Ролевые онлайн-игры: как предотвратить подмену цифровой личности Ролевые онлайн-игры: как предотвратить подмену цифровой личности

Какими инструментами можно решить проблему подмены цифровой личности

Forbes
Путешествия по стране могут стать драйвером экономики Путешествия по стране могут стать драйвером экономики

Туристическая отрасль получила шанс на динамичное развитие

РБК
Детское выгорание: как не вырастить несчастного профессионала из лучших побуждений Детское выгорание: как не вырастить несчастного профессионала из лучших побуждений

Как вырастить из ребенка счастливого профессионала и не допустить выгорания

Forbes
Фильмы, меняющие жизнь | Movies That Change Lives Фильмы, меняющие жизнь | Movies That Change Lives

Оценка социального импакта кино и практики доказательности в кинопроизводстве

Позитивные изменения
8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку! 8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку!

Это крошечное, но очень полезное приспособление должно быть в каждом доме

ТехИнсайдер
Открыть в приложении