Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

И мой сурок со мною И мой сурок со мною

Почему нас захватывает рутина и как из неё вырваться?

Psychologies
Я пошла учиться в медицинский колледж в 37 лет. Почему и зачем? Я пошла учиться в медицинский колледж в 37 лет. Почему и зачем?

О решении поменять профессию в зрелом возрасте и рассказывает Евгения Шафферт

Psychologies
Клад из золотых римских ауресов закопали в Британии еще до римского завоевания Клад из золотых римских ауресов закопали в Британии еще до римского завоевания

Драгоценные находки, сделанные несколько лет назад в графстве Норфолк

N+1
11 правил хорошего отпуска 11 правил хорошего отпуска

Как отдохнуть без стрессов?

Psychologies
Боги, богини и Фрейд: 15 популярных книг по психологии Боги, богини и Фрейд: 15 популярных книг по психологии

Топ-15 самых интересных книг по психологии, которые стоит прочитать всем

Forbes
Три вида тираннозавров снова объединили в один Три вида тираннозавров снова объединили в один

Изменчивость тираннозавра оказалась в пределах нормы

N+1
Дачная экзотика Дачная экзотика

Дюк, мушмула и еще 5 небанальных плодовых кустарников и деревьев для сада

Лиза
Отрывок из книги Александра Староверова «То, что вы хотели» Отрывок из книги Александра Староверова «То, что вы хотели»

Отрывок из злободневного романа «То, что вы хотели»

СНОБ
Леопард в мире ящериц: в Индии открыли геккона, который использует язык как орган осязания Леопард в мире ящериц: в Индии открыли геккона, который использует язык как орган осязания

Исследователи обнаружили новый вид леопардового геккона

Вокруг света
«Моя Мишель» «Моя Мишель»

Блиц-опрос для фронтвумен группы «Моя Мишель»

ЖАРА Magazine
Если из носа часто идет кровь: как ее остановить и когда пора к врачу Если из носа часто идет кровь: как ее остановить и когда пора к врачу

Почему из носа идет кровь и когда это важный симптом проблем со здоровьем

РБК
Лори не запишут в Черную книгу: как жители крошечного острова пытаются спасти вымирающих попугаев Лори не запишут в Черную книгу: как жители крошечного острова пытаются спасти вымирающих попугаев

Попугаи лори сегодня находятся на грани исчезновения

ТехИнсайдер
Очаровательно воздушен Очаровательно воздушен

Дизайнер постаралась сделать интерьер по-настоящему питерским

Идеи Вашего Дома
Жёны застоя Жёны застоя

Супруги генсеков и членов политбюро ЦК КПСС

Дилетант
Дамплинги Дамплинги

Вроде бы те же пельмени, но распахивают двери в мир гастрономических фантазий

Bones
Брэд Питт диагностировал у себя прозопагнозию: что это значит? Брэд Питт диагностировал у себя прозопагнозию: что это значит?

Как прозопагнозия осложняет жизнь людям?

Psychologies
«Душечка» хорошего питания «Душечка» хорошего питания

Геня Фейгенберг мало чем отличалась от многих своих современниц

Дилетант
Как справиться с эмоциональным выгоранием Как справиться с эмоциональным выгоранием

Что делать, если наступило эмоциональное выгорание, и как из него выйти

СНОБ
Как советский спутник наслал безумие на американские школы Как советский спутник наслал безумие на американские школы

Из-за Советского Союза у школьников в США настали очень трудные времена

Maxim
6 признаков, что пора менять тормозные колодки 6 признаков, что пора менять тормозные колодки

Признаки износа тормозных колодок

РБК
Потеют, шелушатся, немеют: диагнозы, которые можно поставить по ладоням Потеют, шелушатся, немеют: диагнозы, которые можно поставить по ладоням

Врач «прочитает» твои кисти рук не хуже профессионального хироманта

Maxim
Половое воспитание. Нужно ли разговаривать с детьми о сексе Половое воспитание. Нужно ли разговаривать с детьми о сексе

Как разговаривать с детьми о сексе и отношениях — и нужно ли вообще это делать

СНОБ
От  От 

Необычные и невероятно красивые места России

Караван историй
Может ли Человек-паук действительно остановить поезд паутиной Может ли Человек-паук действительно остановить поезд паутиной

Так ли прочна паутина Человека-паука, как это показано в фильмах?

ТехИнсайдер
Можно ли прожить без «обнимашек»? Можно ли прожить без «обнимашек»?

Прикосновения играют огромную роль в нашей жизни

Здоровье
Почему мы так говорим: «Главное — не победа, а участие» Почему мы так говорим: «Главное — не победа, а участие»

24 июля 1908 года спортивный мир пережил потрясающую и незабываемую драму

Maxim
Петербургский Джек Потрошитель: история первого серийного убийцы в России — кадета Николая Радкевича Петербургский Джек Потрошитель: история первого серийного убийцы в России — кадета Николая Радкевича

Как кадет Николай Радкевич решил, что его миссия — очистить мир от развратниц

VOICE
История одного здания: дом на Большой Садовой История одного здания: дом на Большой Садовой

В этом доме Булгаков поселил дьявольскую свиту в романе «Мастер и Маргарита»

Культура.РФ
Живущие между Самарой и Саратовом пиявки спрятались от хищников в раковинах живых моллюсков Живущие между Самарой и Саратовом пиявки спрятались от хищников в раковинах живых моллюсков

Пиявки используют другие организмы для защиты

N+1
До работы далеко: как общаться с коллегами по переписке До работы далеко: как общаться с коллегами по переписке

Что такое дистанционный этикет и как его придерживаться?

VOICE
Открыть в приложении