По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дорогу возрастным: почему бизнес все чаще берет на работу сотрудников старше 50 лет Дорогу возрастным: почему бизнес все чаще берет на работу сотрудников старше 50 лет

В чем пожилые специалисты превосходят молодых?

Forbes
«Растете ли вы как личность?»: 10 вопросов о любви — задайте в начале отношений «Растете ли вы как личность?»: 10 вопросов о любви — задайте в начале отношений

Вопросы, которые помогут вам проанализировать чувства

Psychologies
«Осторожно, в небе металлолом» — Что делают со старыми авиалайнерами «Осторожно, в небе металлолом» — Что делают со старыми авиалайнерами

Почему пассажирские авиалайнеры так рано списывают?

ТехИнсайдер
Новостройки держатся Новостройки держатся

Цены стагнируют на фоне роста предложения и нестабильности спроса

Деньги
Как не попасть на «развод» в автосалоне. 6 уловок продавцов Как не попасть на «развод» в автосалоне. 6 уловок продавцов

Названы 6 самых хитрых приемов дилеров при продаже машин

РБК
Участники форума «Завтрак шефа» — о локальных продуктах и трендах Участники форума «Завтрак шефа» — о локальных продуктах и трендах

Шефы — об импортозамещении и локальных продуктах

РБК
Бочка отсчёта Бочка отсчёта

Превосходное вино немыслимо без выдержки в превосходных дубовых бочках

Robb Report
В сарматских погребениях могильника Вонючка-1 нашли всадника и двух женщин с зубными аномалиями В сарматских погребениях могильника Вонючка-1 нашли всадника и двух женщин с зубными аномалиями

Наталия Березина исследовала останки трех человек раннесарматского времени

N+1
10 лучших сериалов про сумасшедших, душевнобольных и психбольницы. Часть II 10 лучших сериалов про сумасшедших, душевнобольных и психбольницы. Часть II

Сериалы о том, как безумие и ментальные проблемы влияют на людей и окружающих

Maxim
Сенокосцы не стали альфа-самцами из-за утерянных в юности конечностей Сенокосцы не стали альфа-самцами из-за утерянных в юности конечностей

Самцы сенокосцев, потерявшие конечности в молодости, остаются мелкими

N+1
«Экономическое образование должно быть направлено на благо людей и планеты» | “Economic Education Must Be for the Good of the People and the Planet” «Экономическое образование должно быть направлено на благо людей и планеты» | “Economic Education Must Be for the Good of the People and the Planet”

Интервью с Сонал Рагхуванши, движение Economists for Future

Позитивные изменения
Ростов, Ельцин, монстр: какой получилась книга Андрея Подшибякина «Последний день лета» Ростов, Ельцин, монстр: какой получилась книга Андрея Подшибякина «Последний день лета»

Книга, которая погрузит слушателя в лихие ростовские 1990-е

Правила жизни
Глубоководные осьминоги спустились на 2600 метров ради охоты Глубоководные осьминоги спустились на 2600 метров ради охоты

Большую часть времени эти осьминоги проводят в толще воды, а охотятся на дне

N+1
Как включить режим разработчика на Android и iPhone Как включить режим разработчика на Android и iPhone

Зачем нужен режим разработчика в смартфоне, и как его включить

CHIP
Жена зарабатывает больше: как обойти стереотипы и сохранить гармонию в отношениях Жена зарабатывает больше: как обойти стереотипы и сохранить гармонию в отношениях

Существуют многие успешные пары, где жена зарабатывает больше, и они счастливы

Psychologies
Эдгар Шабанов Эдгар Шабанов

Эдгар Шабанов за последние полтора года привез в Россию 300 новых брендов

Собака.ru
Внутри астероида Итокава найдена обычная соль — и эта находка уникальна Внутри астероида Итокава найдена обычная соль — и эта находка уникальна

Почему ученых так взволновал самый заурядный хлорид натрия?

ТехИнсайдер
Подлинная история игрушек: почему дети изобретательницы Барби ненавидели эту куклу Подлинная история игрушек: почему дети изобретательницы Барби ненавидели эту куклу

Как кукла Барби повлияла на детей изобретательницы Рут Хэндлер?

VOICE
Шимпанзе объединили жесты и мимику во избежание двусмысленности Шимпанзе объединили жесты и мимику во избежание двусмысленности

Частота мультимодальных сигналов, используемых шампанзе, увеличилась с возрастом

N+1
От Холлана до Мбаппе: десятка самых дорогих футболистов в мире От Холлана до Мбаппе: десятка самых дорогих футболистов в мире

Forbes.Спорт представляет десятку самых дорогих футболистов в мире

Forbes
К концу века дыхание арктических почв усилится вдвое К концу века дыхание арктических почв усилится вдвое

Микробное дыхание усиливается в ответ на глобальное потепление

N+1
Деревянные руки для робота: необычное изобретение Деревянные руки для робота: необычное изобретение

Теперь ученые использовали древесину для роботизированного захвата

ТехИнсайдер
Утро начинается не только с кофе: 7 напитков, которые зарядят вас энергией на весь день Утро начинается не только с кофе: 7 напитков, которые зарядят вас энергией на весь день

Наскучил кофе? Попробуйте заменить его этими напитками

ТехИнсайдер
Как заводить деловые связи и знакомства: 3 совета интровертам Как заводить деловые связи и знакомства: 3 совета интровертам

Как случилось, что люди, избегающие общения, добиваются успеха?

Psychologies
Возраст красоты Возраст красоты

Когда и как бороться с возрастными изменениями

Лиза
Английский по историям великих женщин: как учить язык без скуки, слез и зубрежки Английский по историям великих женщин: как учить язык без скуки, слез и зубрежки

Создательница Use your Girl Power! — о том, каким должно быть образование

Forbes
Клим Шипенко: «Космос точно вызывает зависимость» Клим Шипенко: «Космос точно вызывает зависимость»

История от первого режиссера, который побывал в космосе, и привез оттуда фильм!

Maxim
Канадцы составили распорядок дня среднестатистического землянина Канадцы составили распорядок дня среднестатистического землянина

Как проходит день среднестатистического человека?

N+1
Как формируется пищевая зависимость? Отрывок из книги «Почему я не худею» Как формируется пищевая зависимость? Отрывок из книги «Почему я не худею»

Отрывок из книги «Почему я не худею» о формировании пищевых зависимостей.

Правила жизни
Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети» Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети»

Почему фильм «Девушки, живущие в сети» заслуживает самого пристального внимания

РБК
Открыть в приложении