Нередко ИИ находит то, чего на самом деле нет

TechInsiderHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как поддержать иммунитет Как поддержать иммунитет

Как преподаватели йоги поддерживают свой иммунитет осенью

Yoga Journal
Как быстро очистить гараж: неочевидные советы Как быстро очистить гараж: неочевидные советы

Советы, которые помогут вам быстро убрать скопившийся хлам

TechInsider
«Купить часть скалы»: во что инвестирует 77-летний бейсбольный магнат во время спада «Купить часть скалы»: во что инвестирует 77-летний бейсбольный магнат во время спада

Куда Артуро Морено инвестирует во время экономического спада?

Forbes
«Титановый желудок»: рассказываем историю парня, который питается просрочкой — и пользуется успехом «Титановый желудок»: рассказываем историю парня, который питается просрочкой — и пользуется успехом

Британец ставит эксперименты на собственным желудке

Maxim
«Живое всегда найдет способ прорасти»: что будет с российским независимым театром «Живое всегда найдет способ прорасти»: что будет с российским независимым театром

Пять российских режиссеров — о том, что ждет российский независимый театр

Forbes
Тайна темной энергии. Вселенная не просто расширяется, она расширяется ускоренно Тайна темной энергии. Вселенная не просто расширяется, она расширяется ускоренно

Почему Вселенная расширяется ускоренно?

TechInsider
Предписывающие знаки: что это, какие бывают, как действуют Предписывающие знаки: что это, какие бывают, как действуют

Категория дорожных знаков, которые отвечают вопрос «Что делать?»

РБК
Альтернативная почта . Почтовые сервисы для тех, кому нужно больше Альтернативная почта . Почтовые сервисы для тех, кому нужно больше

Есть множество почтовых сервисов, и некоторые из них довольно интересны

Цифровой океан
Нейробиологи показали, чем мозг человека отличается от мозга мыши: наш мозг умеет тормозить Нейробиологи показали, чем мозг человека отличается от мозга мыши: наш мозг умеет тормозить

Мозг человека и мозг мыши похожи, но почему человек думает иначе?

TechInsider
10 привычных продуктов, которые опасно есть в жару 10 привычных продуктов, которые опасно есть в жару

Продукты, которыми в жару лучше не соблазняться

Лиза
Группа «Созвездие Отрезок» — о новом альбоме и концертной площадке мечты Группа «Созвездие Отрезок» — о новом альбоме и концертной площадке мечты

Группа «Созвездие Отрезок» — почему им так важны безумные костюмы

РБК
Помнят ли кошки и собаки свое прошлое Помнят ли кошки и собаки свое прошлое

Как кошки и собаки запоминают информацию?

TechInsider
7 ключевых позиций для эффективной тренировки: упражнение планка 7 ключевых позиций для эффективной тренировки: упражнение планка

Хочешь подтянуть фигуру, исправить осанку, стать выносливее?

Лиза
Овощи как новый тренд Овощи как новый тренд

В последнее время тема овощей в гастрономии актуальна как никогда

Bones
«С русским акцентом»: какой будет новая корпоративная культура после передела рынка «С русским акцентом»: какой будет новая корпоративная культура после передела рынка

Чего ждать старым сотрудникам? Как изменится корпоративная культура?

Forbes
6 моментов в сериале «Оби-Ван Кеноби», которые упустили 99% зрителей 6 моментов в сериале «Оби-Ван Кеноби», которые упустили 99% зрителей

Лишь только настоящие фанаты «Звездных войн» способны их заметить!

Maxim
Прошедшее будущее Прошедшее будущее

10 вещей, которые Пьер Карден сделал в моде первым

Weekend
Диски для болгарки: как их правильно выбирать? Диски для болгарки: как их правильно выбирать?

Разбираемся, как именно выбрать круг для вашей УШМ

CHIP
Из разведки с любовью Из разведки с любовью

Приключения Яна Флеминга до Джеймса Бонда

Weekend
Бей, беги, замри: как справиться с древними реакциями на стресс Бей, беги, замри: как справиться с древними реакциями на стресс

Можно ли научиться по-новому реагировать на стресс

Psychologies
X, Y и сексизм в науке X, Y и сексизм в науке

Как все устроить, чтобы мальчиков и девочек рождалось поровну

СНОБ
Почему мы не любим себя на фото Почему мы не любим себя на фото

«Улыбнитесь!» — и нас в ту же секунду сковывает напряжение

Psychologies
Свой — чужой Свой — чужой

Монотонный интерьер квартиры с простой и логичной композицией

Идеи Вашего Дома
Сергей Булгаков: мир как хозяйство Сергей Булгаков: мир как хозяйство

Как Сергей Булгаков положил начало современному экологическому мышлению

Эксперт
«Позорная стигма»: историк Михаил Майзульс о том, как в Средневековье помечали врагов «Позорная стигма»: историк Михаил Майзульс о том, как в Средневековье помечали врагов

Историк-медиевист Михаил Майзульс — как в Средние века использовали цвет

Forbes
Дамоклов меч: что такое прокрастинация и как она разрушает жизнь Дамоклов меч: что такое прокрастинация и как она разрушает жизнь

Причины прокрастинации и способы борьбы с ней

Forbes
Госпожа профессор: 7 женщин, которые первыми начали преподавать в вузах Госпожа профессор: 7 женщин, которые первыми начали преподавать в вузах

Семь женщин, которые занимались наукой сами и учили этому других

Forbes
«Для спасения обмирающих скоропостижно» «Для спасения обмирающих скоропостижно»

Скорая помощь на протяжении столетий оказывалась только на полях сражений

Дилетант
Боги, богини и Фрейд: 15 популярных книг по психологии Боги, богини и Фрейд: 15 популярных книг по психологии

Топ-15 самых интересных книг по психологии, которые стоит прочитать всем

Forbes
Хоррор на даче Хоррор на даче

Как не подхватить паразитов летом за городом

Лиза
Открыть в приложении