Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Карантин как повод для бунта Карантин как повод для бунта

В Российской империи попытки борьбы с эпидемиями могли быть для власти опасными

Дилетант
Никогда не ешь перед сном эти продукты, если хочешь выспаться и проснуться свежей и в хорошем настроении Никогда не ешь перед сном эти продукты, если хочешь выспаться и проснуться свежей и в хорошем настроении

Невозможность нормально выспаться сильно ухудшает качество жизни

VOICE
Вниманию шопоголиков Вниманию шопоголиков

6 уловок в магазинах одежды, на которые мы часто попадаемся

Лиза
Ростов, Ельцин, монстр: какой получилась книга Андрея Подшибякина «Последний день лета» Ростов, Ельцин, монстр: какой получилась книга Андрея Подшибякина «Последний день лета»

Книга, которая погрузит слушателя в лихие ростовские 1990-е

Правила жизни
«Природный Оземпик»: в соцсетях сходят с ума по новой добавке для похудения — что думают о ней врачи? «Природный Оземпик»: в соцсетях сходят с ума по новой добавке для похудения — что думают о ней врачи?

Уколы для диабетиков помогают для похудения?

VOICE
Не на каждый день Не на каждый день

Эта московская квартира была задумана и реализована как «квартира–шкатулка»

SALON-Interior
Некоронованная правительница Франции: кем была маркиза де Помпадур Некоронованная правительница Франции: кем была маркиза де Помпадур

Какое значение в истории Франции сыграла маркиза де Помпадур?

Forbes
Усы на миллион: самые необычные части тела, которые страхуют знаменитости Усы на миллион: самые необычные части тела, которые страхуют знаменитости

Разбираемся, что страхуют селебрити и сколько это стоит

РБК
10 самых живописных пляжей России 10 самых живописных пляжей России

Песок и галька, косы и мысы, горы и скалы

Караван историй
Такая красивая и одна? Почему Ирина Шейк не замужем - отвечает нумеролог Такая красивая и одна? Почему Ирина Шейк не замужем - отвечает нумеролог

Почему у Ирины Шейк не ладится личная жизнь? Спросили у нумеролога

VOICE
«Импортозамещение возможно при наличии научно-производственной базы» «Импортозамещение возможно при наличии научно-производственной базы»

О локализации оборудования и программного обеспечения для промышленности

РБК
Такие одинаковые, но разные ягоды: чем отличается черешня от вишни Такие одинаковые, но разные ягоды: чем отличается черешня от вишни

Вишня и черешня похожи между собой, но все же отличаются

ТехИнсайдер
Младенцы «лепечут» чаще, когда они окружены искусственными, а не природными объектами Младенцы «лепечут» чаще, когда они окружены искусственными, а не природными объектами

Искусственное окружение гораздо сильнее стимулирует речь детей, чем естественное

ТехИнсайдер
Бассейн на даче: это сложно или нет? Бассейн на даче: это сложно или нет?

Разбираемся, чего от бассейна на дачном участке больше — пользы или проблем?

CHIP
Шея девочки была обвита пуповиной: дочь Брюса Уиллиса пережила тяжелые домашние роды Шея девочки была обвита пуповиной: дочь Брюса Уиллиса пережила тяжелые домашние роды

Румер Уиллис раскрыла шокирующие подробности рождения первенца

VOICE
Ответственное родительство связали с успехами детей в инженерии и математике Ответственное родительство связали с успехами детей в инженерии и математике

Ответственное родительство уменьшает разрыв в неравенстве между детьми

N+1
И на земле И на земле

Готовиться к бомбардировкам британцы начали задолго до войны

Дилетант
Нейрохимия компульсивности оказалась схожа у здоровых людей и пациентов с ОКР Нейрохимия компульсивности оказалась схожа у здоровых людей и пациентов с ОКР

Компульсивность представляет собой трансдиагностическую психиатрическую черту

N+1
В Монголии обнаружили древнейшее украшение в форме фаллоса В Монголии обнаружили древнейшее украшение в форме фаллоса

Древнейшее украшение в форме фаллоса, когда-либо найденное в мире

N+1
8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку! 8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку!

Это крошечное, но очень полезное приспособление должно быть в каждом доме

ТехИнсайдер
Ученые впервые увидели свет древнейших галактик, родившихся через миллиард лет после Большого Взрыва Ученые впервые увидели свет древнейших галактик, родившихся через миллиард лет после Большого Взрыва

Само собой разумеется, что вокруг квазаров могут быть галактики

ТехИнсайдер
«Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев «Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев

Получилась альтернативная версия «Крестного отца».

Правила жизни
Дубайская земля Дубайская земля

Сложно представить, но лет сорок назад Дубай был сонной рыбацкой деревушкой

Robb Report
Хозяин своей жизни: 8 аргументов в пользу одиночества Хозяин своей жизни: 8 аргументов в пользу одиночества

Даже в природе не все особи создают пару. И это тоже вариант нормы

Psychologies
Что такое шугаринг и как его правильно делать Что такое шугаринг и как его правильно делать

Шугаринг — метод удаления волос, которым пользовались еще древние египтяне

РБК
Стоит ли пить свежевыжатые соки, если все говорят, что они вредны Стоит ли пить свежевыжатые соки, если все говорят, что они вредны

Стоит ли вообще пить свежевыжатый сок?

ТехИнсайдер
Роман Карманов: Культура и дружеское общение решают все Роман Карманов: Культура и дружеское общение решают все

Какие значимые творческие проекты есть в России и каких инициатив не хватает?

СНОБ
Не только в коктейли: 10 потрясающих методов использования кубиков льда, которые пригодятся каждому Не только в коктейли: 10 потрясающих методов использования кубиков льда, которые пригодятся каждому

Какие суперспособности есть у обычного кусочка льда?

ТехИнсайдер
Как формируется пищевая зависимость? Отрывок из книги «Почему я не худею» Как формируется пищевая зависимость? Отрывок из книги «Почему я не худею»

Отрывок из книги «Почему я не худею» о формировании пищевых зависимостей.

Правила жизни
Riot Grrrl: как панк-музыка объединила женщин против патриархата Riot Grrrl: как панк-музыка объединила женщин против патриархата

Вспоминаем историю Riot Grrrl и рассказываем, о чем они пели в своих песнях

Forbes
Открыть в приложении