По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Альфрид Лэнгле — Forbes: «Кризис должен быть стимулом проживать жизнь по максимуму» Альфрид Лэнгле — Forbes: «Кризис должен быть стимулом проживать жизнь по максимуму»

Как справиться с чувством беспомощности? Объясняет Альфрид Лэнгле

Forbes
Как культура нарциссизма заставляет нас быть перфекционистами и страдать Как культура нарциссизма заставляет нас быть перфекционистами и страдать

Что стоит за перфекционизмом и почему от него стоит отказаться?

Psychologies
Как ретейлеры поддерживают индустрию электрокаров в России Как ретейлеры поддерживают индустрию электрокаров в России

Как ретейлеры развивают сети электрозаправок и заботятся об электрокарах

СНОБ
Улыбайся смелее Улыбайся смелее

Почему желтеют зубы и как вернуть белоснежную улыбку?

Лиза
Все гениальное просто: как убрать черные полосы на светлой обуви в домашних условиях Все гениальное просто: как убрать черные полосы на светлой обуви в домашних условиях

Средства, которые на раз-два возвращают белой обуви первоначальный внешний вид

ТехИнсайдер
Артем Злобин Артем Злобин

Ученик Льва Эренбурга дебютировал в режиссуре в 23 года

Собака.ru
Арсений Попов Арсений Попов

Актер и главный импровизатор страны, Арсений Попов

Собака.ru
«В России в принципе не очень хорошо с памятью» «В России в принципе не очень хорошо с памятью»

Как бывший журналист пытается вернуть одному селу его прошлое

Weekend
Экономика будущего. Первый этап | The Economy of the Future. Stage One Экономика будущего. Первый этап | The Economy of the Future. Stage One

Видение Экономики будущего социального инвестора Алексея Рыжкова

Позитивные изменения
Антидепрессивное действие психоделиков отделили от галлюциногенного на молекулярном уровне Антидепрессивное действие психоделиков отделили от галлюциногенного на молекулярном уровне

Психоделики связываются с нейротрофными рецепторами TrkB

N+1
Как не дать психологическим травмам испортить вашу жизнь Как не дать психологическим травмам испортить вашу жизнь

Как себе помочь и стать успешным и счастливым человеком, несмотря на травмы

Psychologies
Что такое детокс организма и поможет ли он похудеть Что такое детокс организма и поможет ли он похудеть

Вместе с экспертом разбираемся в способах безопасного очищения организма

РБК
«Мне 59, ему 22»: почему зрелые женщины сексуально привлекают молодых мужчин «Мне 59, ему 22»: почему зрелые женщины сексуально привлекают молодых мужчин

Почему зрелые женщины заводят отношения с мужчинами сильно младше себя?

Psychologies
История с цветом История с цветом

Интерьер этого дома — профессиональный микс разных стилей

Идеи Вашего Дома
Ученые выяснили эволюционное значение мастурбации Ученые выяснили эволюционное значение мастурбации

Мастурбация повышает репродуктивный успех у самцов приматов

ТехИнсайдер
4 ошибки с колготками, которые допускают даже продвинутые модницы 4 ошибки с колготками, которые допускают даже продвинутые модницы

Подводных камней в вопросе колготок куда больше, чем ты думала

VOICE
Нужно ли промывать рис перед готовкой: мнение экспертов Нужно ли промывать рис перед готовкой: мнение экспертов

Зачем люди промывают рис?

ТехИнсайдер
Внутри астероида Итокава найдена обычная соль — и эта находка уникальна Внутри астероида Итокава найдена обычная соль — и эта находка уникальна

Почему ученых так взволновал самый заурядный хлорид натрия?

ТехИнсайдер
Эмоциональное выгорание Эмоциональное выгорание

Почему возникает эмоциональное выгорание и как с ним бороться?

Лиза
Как в Челябинске запустили первое в России производство сверхбольших стеклопакетов Как в Челябинске запустили первое в России производство сверхбольших стеклопакетов

Как производство больших архитектурных стеклопакетов может изменить Россию

СНОБ
Работа до посинения Работа до посинения

Почему будет падать спрос на белых воротничков

РБК
Потепление превратит снегопады в горах Северного полушария в проливные дожди Потепление превратит снегопады в горах Северного полушария в проливные дожди

Районы на высоте более 3000 метров станут уязвимы для экстремальных осадков

N+1
Вегетарианка и чудачка: почему друзья Ильи Репина не любили его жену Наталью Нордман Вегетарианка и чудачка: почему друзья Ильи Репина не любили его жену Наталью Нордман

Какой была жена Ильи Репина Наталья Нордман?

Forbes
Секс втроем и подглядывание: 7 самых популярных женских сексуальных фантазий Секс втроем и подглядывание: 7 самых популярных женских сексуальных фантазий

Образы, с которыми связаны женские эротические фантазии, озвучил психоаналитик

Maxim
Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети» Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети»

Почему фильм «Девушки, живущие в сети» заслуживает самого пристального внимания

РБК
99 способов самоподдержки от смелого психолога Екатерины Сигитовой 99 способов самоподдержки от смелого психолога Екатерины Сигитовой

Список, который вам поможет радоваться жизни каждый день!

Psychologies
Александр Тоболь Александр Тоболь

Вице-президент VK и техдир ВКонтакте играет в шахматы с четырех лет

Собака.ru
Мыши с выключенным протоонкогеном Myc быстро состарились и прожили дольше Мыши с выключенным протоонкогеном Myc быстро состарились и прожили дольше

Как протоонкоген Мус влияет на продолжительность жизни?

N+1
Дети, бедняки, улицы: как снимали первые женщины-фотографы Дети, бедняки, улицы: как снимали первые женщины-фотографы

Рассказываем о пяти женщинах, которые смотрели на мир через объектив

Forbes
В солнечной долине В солнечной долине

Светлый таунхаус на первой линии Чёрного моря, в окружении гор и виноградников

Идеи Вашего Дома
Открыть в приложении