По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

22% молодых россиян рассказали об отсутствии сексуальной жизни 22% молодых россиян рассказали об отсутствии сексуальной жизни

О наличии проблем в сексуальных отношениях рассказали 51% респондентов

Forbes
Основатель Masters Полина Бондарева — о Левашовском хлебозаводе Основатель Masters Полина Бондарева — о Левашовском хлебозаводе

Как бизнес идет в сторону искусства, а искусство продолжает искать новые формы

РБК
DDoSтать до потолка: как и почему за 2024 год изменились сетевые кибератаки DDoSтать до потолка: как и почему за 2024 год изменились сетевые кибератаки

Как изменился ландшафт DDoS и что этому способствовало

Forbes
10.203 10.203

10.203 — это творческое объединение и совместная мастерская уличных художников

Собака.ru
Что такое субъективная бессонница и как ее лечить Что такое субъективная бессонница и как ее лечить

Не спите всю ночь? А может быть, это только ощущение?

РБК
Он в вас (не) влюблен: как узнать правду о чувствах мужчины Он в вас (не) влюблен: как узнать правду о чувствах мужчины

Как он видит (и видит ли он вообще) продолжение отношений?

Psychologies
Фильмы с двумя главными злодеями Фильмы с двумя главными злодеями

7 картин, в которых главным героям пришлось бороться против двух антагонистов

Maxim
«Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова «Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова

Режиссер Борис Хлебников — о том, как не давить на детей

Psychologies
7 алкогольных сочетаний, которые гарантируют похмелье 7 алкогольных сочетаний, которые гарантируют похмелье

То, что категорически нельзя между собой смешивать

Psychologies
12 лучших современных черно-белых фильмов. Часть II 12 лучших современных черно-белых фильмов. Часть II

Монохромная гамма еще не ушла из кинематографа

Maxim
Без вины виноватый: защищаемся от субсидиарной ответственности Без вины виноватый: защищаемся от субсидиарной ответственности

Что такое субсидиарная ответственность и как от нее защититься

Inc.
Календарь вакцинации: какие прививки нужно делать взрослым? Календарь вакцинации: какие прививки нужно делать взрослым?

Помогают ли прививки и от чего стоит защищаться в первую очередь?

Правила жизни
В чем разница между красным, белым и желтым репчатым луком? Дело не только в цвете! В чем разница между красным, белым и желтым репчатым луком? Дело не только в цвете!

Теперь вы будете знать, какой лук лучше выбирать в магазине!

ТехИнсайдер
Самый знаменитый американский пикап. Краткая история Chevrolet Silverado Самый знаменитый американский пикап. Краткая история Chevrolet Silverado

Что сделало грузовик Chevrolet Silverado такими востребованным?

4x4 Club
7 странных, но невероятно полезных способов применения кетчупа в быту 7 странных, но невероятно полезных способов применения кетчупа в быту

Как использовать кетчуп не по назначению с пользой для всего дома

ТехИнсайдер
Русский рыболовный корабль попал в шторм. Рецензия на фильм «Снегирь» Русский рыболовный корабль попал в шторм. Рецензия на фильм «Снегирь»

Почему новый фильм «Снегирь» Бориса Хлебникова можно назвать политическим

СНОБ
Инвесторы ставят на дивиденды Инвесторы ставят на дивиденды

Дивидендная доходность эмитентов России остается одной из самых высоких в мире

Деньги
Орангутаны немного побитбоксили Орангутаны немного побитбоксили

Приматологи слушали вокализации орангутанов с островов Борнео и Калитаман

N+1
Могли ли динозавры видеть «чужими глазами»: любопытное исследование Могли ли динозавры видеть «чужими глазами»: любопытное исследование

Могли ли динозавры использовать визуальное восприятие перспективы?

ТехИнсайдер
Более половины россиян хотели бы зарабатывать так же, как блогеры Более половины россиян хотели бы зарабатывать так же, как блогеры

60% россиян хотели бы иметь такой же доход, как и крупные блогеры

Forbes
«Джеймс Уэбб» показал, как галактики меняли раннюю Вселенную «Джеймс Уэбб» показал, как галактики меняли раннюю Вселенную

Как развивалась ранняя Вселенная?

ТехИнсайдер
Кератин для волос: 4 причины сделать процедуру или отказаться от нее Кератин для волос: 4 причины сделать процедуру или отказаться от нее

Разбираемся с экспертами в плюсах и минусах кератинового выпрямления

РБК
Японские инженеры испытали роборуку с живой мокрицей Японские инженеры испытали роборуку с живой мокрицей

Японские инженеры использовали мокрицу в качестве захвата для роборук

N+1
«Абайя — это статус»: есть ли у женщин в Дубае права свободы «Абайя — это статус»: есть ли у женщин в Дубае права свободы

Сотрудница Human Rights Watch — о насилии по отношению к женщинам в ОАЭ

Forbes
7 фильмов о разрушительной силе любви 7 фильмов о разрушительной силе любви

Фильмы о всепоглощающем чувстве любви, которой отдается в жертву самое дорогое

Maxim
4 причины, по которым у женщин болит спина: найди и устрани свою! 4 причины, по которым у женщин болит спина: найди и устрани свою!

Самые распространенные причины болей в спине

VOICE
Селин Дион, Мадонна, Бейонсе: 15 самых богатых женщин шоу-бизнеса в США Селин Дион, Мадонна, Бейонсе: 15 самых богатых женщин шоу-бизнеса в США

Какие знаменитости вошли в рейтинг самых богатых self-made-женщин Америки?

Forbes
10 самых живописных пляжей России 10 самых живописных пляжей России

Песок и галька, косы и мысы, горы и скалы

Караван историй
Канадцы составили распорядок дня среднестатистического землянина Канадцы составили распорядок дня среднестатистического землянина

Как проходит день среднестатистического человека?

N+1
«Водолеев в июне ждет успех!»: как нас заставляют верить в предсказания и гороскопы «Водолеев в июне ждет успех!»: как нас заставляют верить в предсказания и гороскопы

Что такое эффект субъективного подтверждения и как его используют астрологи?

Psychologies
Открыть в приложении