Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новое начало Новое начало

Если вы хотите начать долгосрочные изменения, попробуйте простую практику

Yoga Journal
6 признаков, что пора менять тормозные колодки 6 признаков, что пора менять тормозные колодки

Признаки износа тормозных колодок

РБК
В Египте нашли мумию парализованной после инсульта женщины В Египте нашли мумию парализованной после инсульта женщины

Ученые исследовали древнеегипетскую мумию, похороненную с костылем

N+1
«Плохие оценки помогли мне преуспеть в бизнесе»: 4 вывода «Плохие оценки помогли мне преуспеть в бизнесе»: 4 вывода

Предприниматель делится своей парадоксальной историей успеха

Psychologies
Здоровье в горшочках: как выбрать комнатные цветы Здоровье в горшочках: как выбрать комнатные цветы

Популярные комнатные цветы, деревца и травы, которые украсят любой дом

VOICE
«Жизнь на кончике скальпеля»: Истории нейрохирурга о непростых решениях. «Жизнь на кончике скальпеля»: Истории нейрохирурга о непростых решениях.

Отрывок из книги нейрохирурга — о уроках, которые ему преподали пациенты

N+1
Для чего нужна бронепленка для авто и сколько она стоит Для чего нужна бронепленка для авто и сколько она стоит

Насколько эффективны прозрачные щиты для авто?

РБК
Атеросклероз: как обнаружить и предотвратить развитие сосудистого заболевания Атеросклероз: как обнаружить и предотвратить развитие сосудистого заболевания

Насколько опасны холестериновые бляшки?

ТехИнсайдер
«Работает мало, делает много»: как российские экзоскелеты ускоряют производство «Работает мало, делает много»: как российские экзоскелеты ускоряют производство

Экзоскелеты: как их можно применять в сфере производства

ТехИнсайдер
Рыбалка, вулканы и гастрономия: что смотреть и пробовать на Камчатке Рыбалка, вулканы и гастрономия: что смотреть и пробовать на Камчатке

Фьюжн по-русски на Камчатке

РБК
Разнимать или убежать? Как вести себя, если при тебе ссорятся близкие люди — советы эксперта Разнимать или убежать? Как вести себя, если при тебе ссорятся близкие люди — советы эксперта

Если два близких тебе человека поссорились, что делать?

VOICE
Ростов-папа и не только: какие города были самыми криминальными в СССР Ростов-папа и не только: какие города были самыми криминальными в СССР

Какие города СССР славились запредельным числом бандитов?

VOICE
Работает ли современная медицина и может ли она нанести вред Работает ли современная медицина и может ли она нанести вред

Эффективны ли применяемые сегодня методы лечения?

ТехИнсайдер
Очаровательно воздушен Очаровательно воздушен

Дизайнер постаралась сделать интерьер по-настоящему питерским

Идеи Вашего Дома
Атмосфера драйва Атмосфера драйва

Необычный симбиоз стилей получился из-за разных предпочтений владельцев

Идеи Вашего Дома
Не надевайте шорты и пейте больше кофе: что нужно для успеха на индийском рынке Не надевайте шорты и пейте больше кофе: что нужно для успеха на индийском рынке

Поиск инвесторов и тестирование гипотез на индийском рынке

Forbes
Откуда в марсианском кратере редкий минерал: любопытная теория Откуда в марсианском кратере редкий минерал: любопытная теория

Марсоход Curiosity наткнулся на Марсе на весьма необычную находку

ТехИнсайдер
Многозадачность в IT: все, что вы хотели узнать о бэкенд-разработке Многозадачность в IT: все, что вы хотели узнать о бэкенд-разработке

Из чего состоит работа бэкендеров и что нужно знать, чтобы освоить эту профессию

ТехИнсайдер
Куда нас приведут нейросети Куда нас приведут нейросети

Мировые тренды, которые со временем окажут влияние и на нашу жизнь

СНОБ
Что продавали в первых российских аптеках? Что продавали в первых российских аптеках?

Травы, натурпродукты — какие лекарства были на прилавках первых российских аптек

Культура.РФ
Как правильно спать и не навредить своему организму: техника безопасности Как правильно спать и не навредить своему организму: техника безопасности

Сон необходим нашему организму для существования, но он может стать опасным

ТехИнсайдер
Загробный Диснейленд: автобиографический роман о европейской женщине в Китае Загробный Диснейленд: автобиографический роман о европейской женщине в Китае

Отрывок из автофикшена Светланы Дорошевой о шанхайской арт-резиденции

Forbes
Фруктовый беспредел Фруктовый беспредел

Почему фрукторианство не всегда хорошо?

Здоровье
Как найти выход из любого лабиринта: советы, которые помогут вам не заблудиться Как найти выход из любого лабиринта: советы, которые помогут вам не заблудиться

Не обязательно бродить долго по лабиринту, чтобы из него выбраться

ТехИнсайдер
Да, капитан: 5 способов стать хорошим руководителем Да, капитан: 5 способов стать хорошим руководителем

Как проявить лидерские качества и получить желаемую должность

Правила жизни
Поражение миндалины не дало людям принести одного в жертву ради спасения многих Поражение миндалины не дало людям принести одного в жертву ради спасения многих

Пациенты с болезнью Убраха-Вите отказываются приносить в жертву невинного

N+1
Анна Ларина-Бухарина Анна Ларина-Бухарина

Книга воспоминаний Анны Лариной-Бухариной

Дилетант
«Джейн глазами Шарлотты»: документальное кино об отношениях в семье Генсбур-Биркин «Джейн глазами Шарлотты»: документальное кино об отношениях в семье Генсбур-Биркин

Почему кино «Джейн глазами Шарлотты» — больше, чем просто байопик

Forbes
Смазанный эффект ВТО Смазанный эффект ВТО

Россия не смогла воспользоваться всеми преимуществами членства в ВТО

Агроинвестор
6 причин любить свои недостатки 6 причин любить свои недостатки

Как полюбить все свои особенности?

Psychologies
Открыть в приложении