Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Земля переезжает Земля переезжает

Когда Солнце начнет затухать, корабль «Земля» уже прибудет к новой звезде

Популярная механика
Эмоциональное выгорание Эмоциональное выгорание

Почему возникает эмоциональное выгорание и как с ним бороться?

Лиза
Простые радости Простые радости

В лаконичном современном интерьере сохранены основные принципы функциональности

Идеи Вашего Дома
Самая вкусная летняя ягода: все, что вы должны знать о черешне Самая вкусная летняя ягода: все, что вы должны знать о черешне

Какую пользу для здоровья несет всего одна горсть черешни в день

ТехИнсайдер
5 признаков, что ты пришла в плохую парикмахерскую: их должна знать каждая женщина 5 признаков, что ты пришла в плохую парикмахерскую: их должна знать каждая женщина

Выбрать хорошего парикмахера не так просто, как кажется на первый взгляд

VOICE
Достойный жених: индийский писатель о брачных традициях и жизни в Индии 50-х годов Достойный жених: индийский писатель о брачных традициях и жизни в Индии 50-х годов

Отрывок из книги «Достойный жених» индийского поэта и романиста Викрама Сета

Forbes
Как Как

Как обрести уверенность в себе без помощи фильтров?

VOICE
Чек-лист токсичного пациента: проверьте себя Чек-лист токсичного пациента: проверьте себя

Как ведут себя токсичные пациенты?

Psychologies
Так и не стали взрослыми: дети-актеры, которые рано умерли – самые трагические истории Так и не стали взрослыми: дети-актеры, которые рано умерли – самые трагические истории

У них впереди была целая жизнь, но, увы, она внезапно оборвалась.

VOICE
«Пусть она уйдет»: роман о жизни женщины с ментальными особенностями «Пусть она уйдет»: роман о жизни женщины с ментальными особенностями

Отрывок из книги «Маленькие птичьи сердца»

Forbes
Погребенной на кровати раннесредневековой девушке воссоздали лицо Погребенной на кровати раннесредневековой девушке воссоздали лицо

Художники восстановили внешность молодой девушки из раннего Средневековья

N+1
Номер на одного: как поездка в одиночестве поможет пережить развод — 3 преимущества Номер на одного: как поездка в одиночестве поможет пережить развод — 3 преимущества

Поездка в одиночестве имеет немало преимуществ

Psychologies
Оптические иллюзии возникают из-за наших глаз, а не психики! Интересные факты Оптические иллюзии возникают из-за наших глаз, а не психики! Интересные факты

Зрительные иллюзии вызваны ограничениями в работе глаз и зрительных нейронов

ТехИнсайдер
Дать отпор и справиться с бессилием: чем полезна злость — 5 неочевидных преимуществ Дать отпор и справиться с бессилием: чем полезна злость — 5 неочевидных преимуществ

Почему опасен запрет на агрессию и какие бонусы на самом деле несет это чувство?

Psychologies
Как сделать QR код и зачем он нужен Как сделать QR код и зачем он нужен

Рассказываем о том, как легко и быстро создать QR код

CHIP
«Шекспир — самое успешное мошенничество в этом мире» «Шекспир — самое успешное мошенничество в этом мире»

Писатели, критики и режиссеры о своих отношениях с Великим бардом

Weekend
Свежевыжатые соки Свежевыжатые соки

Какие плюсы и минусы скрываются в ароматных соблазнах свежевыжатых соков?

Здоровье
Торможение на повороте: что мешает построить в России экономику предложения Торможение на повороте: что мешает построить в России экономику предложения

Экономика предложения: достаточно ли в России производственных ресурсов для нее?

Forbes
«Обжигающе горячий»: как чипсы Cheetos навсегда изменили жизнь Ричарда Монтаньеса «Обжигающе горячий»: как чипсы Cheetos навсегда изменили жизнь Ричарда Монтаньеса

Фильм о мексиканце, который завязал с криминалом и устроился на фабрику чипсов

Forbes
Опасная бессонница Опасная бессонница

Учёные предупреждают: бессонница связана с повышенным риском сердечного приступа

Здоровье
Нейробиологи нашли, где в мозге человека находится его телесное Нейробиологи нашли, где в мозге человека находится его телесное

Удалось впервые локализовать "самоощущение" человека

ТехИнсайдер
Как починить молнию на одежде без помощи мастера: простой ремонт своими руками Как починить молнию на одежде без помощи мастера: простой ремонт своими руками

Есть несколько простых лайфхаков, которые помогут исправить молнию на одежде

ТехИнсайдер
Хлеб, розы, химеры и секс: о чем говорили женщины-режиссеры на Каннском кинофестивале Хлеб, розы, химеры и секс: о чем говорили женщины-режиссеры на Каннском кинофестивале

Пять картин от женщин-режиссеров, которые нельзя пропустить

Forbes
«Сумеречный сон»: как появился и почему исчез метод безболезненных родов, популярный в начале XX века «Сумеречный сон»: как появился и почему исчез метод безболезненных родов, популярный в начале XX века

В начале XX века газеты начали писать, что родить без боли возможно…

VOICE
Страшно? Не бойтесь! Как наш мозг обманывает тело Страшно? Не бойтесь! Как наш мозг обманывает тело

Почему мы боимся смерти?

Psychologies
Война заканчивается, а «послевойны» — никогда Война заканчивается, а «послевойны» — никогда

Побежденная Германия глазами Генриха Бёлля

Weekend
«Цель — привлечь новых инвесторов и заинтересовать туристов» «Цель — привлечь новых инвесторов и заинтересовать туристов»

Калужская область, безусловно, привлекательна для туриста

РБК
ВОЗ советует не использовать заменители сахара для похудения: объясняем, почему ВОЗ советует не использовать заменители сахара для похудения: объясняем, почему

Почему не стоит использовать сахарозаменители?

VOICE
Анна Афанасьева Анна Афанасьева

Глава фонда «Точка опоры» уже 13 лет поддерживает спортсменов с инвалидностью

Собака.ru
Искусство займа Искусство займа

Почему реальная цена кредитов больше заявленной

Деньги
Открыть в приложении