По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Эффект кислого винограда»: как неудачи и страх провала мешают нам исполнять мечты «Эффект кислого винограда»: как неудачи и страх провала мешают нам исполнять мечты

Почему мы бессознательно обесцениваем то, что раньше вдохновляло?

Forbes
Почему некоторые люди вечно опаздывают и как можно избавиться от этой пагубной привычки Почему некоторые люди вечно опаздывают и как можно избавиться от этой пагубной привычки

В чем причины систематических опозданий и как можно от них избавиться?

ТехИнсайдер
Как проверить, что ИИ достиг уровня интеллекта человека Как проверить, что ИИ достиг уровня интеллекта человека

Как понять, на каком уровне развития находится искусственный интеллект?

ТехИнсайдер
Делиться ли проблемами с близкими? Делиться ли проблемами с близкими?

Стоит ли делиться наболевшим с близкими? Или наш долг — оградить их от забот?

Psychologies
Любовь или зависимость? 7 признаков нездоровых отношений Любовь или зависимость? 7 признаков нездоровых отношений

Как отличить истинные чувства от зависимости, способной разрушать нас изнутри?

VOICE
Утро начинается не только с кофе: 7 напитков, которые зарядят вас энергией на весь день Утро начинается не только с кофе: 7 напитков, которые зарядят вас энергией на весь день

Наскучил кофе? Попробуйте заменить его этими напитками

ТехИнсайдер
«Даю Теоне от 50 до 100 тысяч и плачу алименты»: Курбан Омаров рассказал о тратах на дочь от Ксении Бородиной «Даю Теоне от 50 до 100 тысяч и плачу алименты»: Курбан Омаров рассказал о тратах на дочь от Ксении Бородиной

Курбан Омаров откровенно рассказал о разводе с Ксенией Бородиной

VOICE
4 причины, по которым у женщин болит спина: найди и устрани свою! 4 причины, по которым у женщин болит спина: найди и устрани свою!

Самые распространенные причины болей в спине

VOICE
Нина Усатова Нина Усатова

Нина Николаевна выдает мощнейший перформанс про «простую русскую женщину»

Собака.ru
Ледяной дрейф Ледяной дрейф

21 мая в России отметили день полярника. И дата выбрана неслучайно

Отдых в России
«Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог «Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог

Почему не все женщины испытывают оргазм и как справиться с деликатной проблемой

Psychologies
Сказки помогут в борьбе с климатическим кризисом? Вы поразитесь! Сказки помогут в борьбе с климатическим кризисом? Вы поразитесь!

Ученые стремятся передать сложные аргументы в увлекательных историях

ТехИнсайдер
«Книгу писать или жизнь жить»: как участники группы Anacondaz написали детскую сказку «Книгу писать или жизнь жить»: как участники группы Anacondaz написали детскую сказку

Весной 2023 года группа Anacondaz выпустила книгу «Энтони: дорога к дракону»

Forbes
На краю земли На краю земли

Дизайнер Seasons Дарья Уланова вместе с друзьями отправилась на Сахалин

Seasons of life
Во-первых, это красиво… Как французский DS меняет наши представления об автомобильном интерьере Во-первых, это красиво… Как французский DS меняет наши представления об автомобильном интерьере

Компания DS Automobiles поделилась своим видением футуристических интерьеров

4x4 Club
Великая пустота Великая пустота

Монголия – наименее населенная страна мира

Вокруг света
Интересует Интересует

Компания Mystic Farm & Distillery стремится к новым высотам в сортах бурбона

ТехИнсайдер
Врачи предлагали ампутацию: Билозерчев стал чемпионом, несмотря на травму и бойкот Врачи предлагали ампутацию: Билозерчев стал чемпионом, несмотря на травму и бойкот

История гимнаста Дмитрия Билозерчева: как он пережил травму и получил медаль

Forbes
Откуда взялся Indian Pale Ale (IPA) и чем отличаются его сорта между собой. История и краткий гид Откуда взялся Indian Pale Ale (IPA) и чем отличаются его сорта между собой. История и краткий гид

Пора разобраться со путаницей Indian Pale Ale: с ее истоками и последствиями.

Maxim
Людмила Петрановская объяснила, что делать, если ребенок не слышит, пока не наорешь Людмила Петрановская объяснила, что делать, если ребенок не слышит, пока не наорешь

Можно ли повышать голос на ребенка, если тот пропускает все мимо ушей?

Psychologies
Перовскитные солнечные элементы потеряли менее двух процентов эффективности за тысячу часов Перовскитные солнечные элементы потеряли менее двух процентов эффективности за тысячу часов

Химики удержали органические катионы в перовскитных солнечных элементах

N+1
Крымов, Диденко и Gogol School: какие культурные проекты создают русские эмигранты Крымов, Диденко и Gogol School: какие культурные проекты создают русские эмигранты

Чем русские театральные деятели занимаются за границей

Forbes
Время первых Время первых

Черешня – ягода, которая ассоциируется у нас с теплом и солнцем

Лиза
Вареный лук, ЗОЖ и брендовые сумки: россияне назвали вещи, которые невозможно любить Вареный лук, ЗОЖ и брендовые сумки: россияне назвали вещи, которые невозможно любить

Существуют вещи, которые никому не нравятся

Psychologies
У ИИ бывают «галлюцинации», но не такие, как у человека У ИИ бывают «галлюцинации», но не такие, как у человека

Какие галлюцинации видит искусственный интеллект?

ТехИнсайдер
В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье

Как жить с абьюзивной свекровью?

Psychologies
К рекордам готовы К рекордам готовы

5 шагов не позволить себе отступить от похудения

Лиза
«Интерфейс должен соответствовать критериям доступности»: как незрячие люди пользуются гаджетами и бытовой техникой «Интерфейс должен соответствовать критериям доступности»: как незрячие люди пользуются гаджетами и бытовой техникой

Какие предметы бытовой техники просто необходимы незрячему человеку?

ТехИнсайдер
Экономисты описали модель развития России по аналогии с Китаем Экономисты описали модель развития России по аналогии с Китаем

Российская экономика оказалась в ситуации «трех циркуляций»

Forbes
Нюрка-воровка, невольница в золотой клетке и коварная обольстительница. Актриса Анастасия Ильинская — о своих ролях Нюрка-воровка, невольница в золотой клетке и коварная обольстительница. Актриса Анастасия Ильинская — о своих ролях

Актриса Анастасия Ильинская — о Театре на Бронной и своих планах на будущее

СНОБ
Открыть в приложении