Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психиатр и специалист по питанию из Гарварда назвала 6 продуктов, которые сохранят мозг «молодым и здоровым» Психиатр и специалист по питанию из Гарварда назвала 6 продуктов, которые сохранят мозг «молодым и здоровым»

Чем витамины группы В полезны для мозга и в каких продуктах они содержатся

Inc.
Вот как йога может улучшить ваше пищеварение и вылечить СРК Вот как йога может улучшить ваше пищеварение и вылечить СРК

Синдром раздраженного кишечника (СРК) сегодня мучает многих. Йога может помочь

ТехИнсайдер
Isuzu MU-X. Максимально близко к идеалу Isuzu MU-X. Максимально близко к идеалу

Простой и крепкий внедорожник Isuzu MU-X, которого нам не хватало

4x4 Club
Руки прочь! 5 частей тела, которые опасно трогать без необходимости Руки прочь! 5 частей тела, которые опасно трогать без необходимости

Части тела, которые лучше вообще не трогать руками без крайней необходимости

VOICE
Многослойная история любви и предательства в романе Любови Бариновой «Кто ты будешь такой?» Многослойная история любви и предательства в романе Любови Бариновой «Кто ты будешь такой?»

Публикуем отрывок романа, вышедшего в «Редакции Елены Шубиной»

СНОБ
Новая теория происхождения Земли расставила все точки над i Новая теория происхождения Земли расставила все точки над i

Как именно образовалась наша планета?

ТехИнсайдер
Пивной живот, обвисшая грудь и еще 6 симптомов, которые могут говорить о серьезных заболеваниях Пивной живот, обвисшая грудь и еще 6 симптомов, которые могут говорить о серьезных заболеваниях

Даже супергероям, у которых никогда ничего не болит, иногда нужен врач

Maxim
Как построить карьеру в науке и медицине и преодолеть стереотипы о возрасте Как построить карьеру в науке и медицине и преодолеть стереотипы о возрасте

Четвертая серия сериала, посвященная победителям номинации «Наука и технологии»

Forbes
Как развить креативность: 14 любопытных способов Как развить креативность: 14 любопытных способов

Эти приемы могут повысить ваши творческие способности

Psychologies
Я пошла учиться в медицинский колледж в 37 лет. Почему и зачем? Я пошла учиться в медицинский колледж в 37 лет. Почему и зачем?

О решении поменять профессию в зрелом возрасте и рассказывает Евгения Шафферт

Psychologies
Лучшие фильмы с Томом Крузом: 7 выдающихся ролей, 7 лиц одного актера Лучшие фильмы с Томом Крузом: 7 выдающихся ролей, 7 лиц одного актера

Типажи Тома Круза, в которых он представал на экране

Правила жизни
6 признаков, что пора менять тормозные колодки 6 признаков, что пора менять тормозные колодки

Признаки износа тормозных колодок

РБК
Пенится квас в ковше Пенится квас в ковше

Квас — одно из древнейших русских кулинарных изобретений

Наука и жизнь
Овощ, ну ты и фрукт! Или гид по самой здоровой диете Овощ, ну ты и фрукт! Или гид по самой здоровой диете

Почему так важно есть овощи и как не морщиться при виде вегетарианского меню?

Men Today
Что делать, если жвачка прилипла к волосам и одежде: 9 простых советов Что делать, если жвачка прилипла к волосам и одежде: 9 простых советов

Мы надеемся, что вы никогда не найдете жвачку в своих волосах или на одежде

ТехИнсайдер
И тут неплохо кормят: искусственно выращенная форель оказалась полезнее дикой И тут неплохо кормят: искусственно выращенная форель оказалась полезнее дикой

Российские ученые сравнили разные виды рыб

Вокруг света
Что считать изменой: 7 распространенных поводов для ревности Что считать изменой: 7 распространенных поводов для ревности

Психологи разобрали распространенные варианты измен

Psychologies
Хоррор на даче Хоррор на даче

Как не подхватить паразитов летом за городом

Лиза
От «Твин Пикса» до «Тьмы»: 15 отличных сериалов в жанре мистики, от которых тяжело оторваться От «Твин Пикса» до «Тьмы»: 15 отличных сериалов в жанре мистики, от которых тяжело оторваться

Сериалы о паранормальном, путешествиях во времени и фантастических существах

Правила жизни
Дом, который перестал быть домом: как устроены токсичные семьи? Дом, который перестал быть домом: как устроены токсичные семьи?

Как токсичные семьи берут под контроль наши жизни?

Psychologies
Скачок лягушки и духи инноваций: как вести бизнес в Африке Скачок лягушки и духи инноваций: как вести бизнес в Африке

В чем специфика работы в Африке?

Forbes
Путешествие на край земли Путешествие на край земли

7 самых интересных мест в далеком Приморье

Лиза
Каникулы в Севастополе Каникулы в Севастополе

Севастополь — идеальное направление для самой разношерстной компании

Лиза
10 знаковых произведений для фортепиано за последние 300 лет 10 знаковых произведений для фортепиано за последние 300 лет

Какие произведения для фортепиано нужно обязательно услышать?

Правила жизни
Разговор с овощами Разговор с овощами

Овощи обладают разной текстурой, с ними даже можно разговаривать

Bones
Шифры, хакеры, шпионы: пока все разбираются с криптовалютой, редакция «Правил жизни» изучает историю криптографии Шифры, хакеры, шпионы: пока все разбираются с криптовалютой, редакция «Правил жизни» изучает историю криптографии

Музей криптографии: самый древний шифр, популярные пароли и худший майнер в мире

Правила жизни
Дать слово преступникам: как репрессии в Индонезии влияют на общество спустя полвека Дать слово преступникам: как репрессии в Индонезии влияют на общество спустя полвека

Как в Индонезии осмысляют геноцид и почему реальные события искажаются

Forbes
Как выходить из неловких ситуаций: эффективный способ Как выходить из неловких ситуаций: эффективный способ

Что поможет сохранить лицо даже в самых глупых ситуациях?

Psychologies
История одной вещи: подстаканники, без которых не обходится путешествие на поезде История одной вещи: подстаканники, без которых не обходится путешествие на поезде

Рассказываем вековую историю подстаканников

Правила жизни
«Цинизм может быть веселой игрой» «Цинизм может быть веселой игрой»

Откуда взялись советские трикстеры и во что они превратились

Weekend
Открыть в приложении