По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В поисках рифмы: каким получился музыкальный фильм про Пушкина с Юрой Борисовым В поисках рифмы: каким получился музыкальный фильм про Пушкина с Юрой Борисовым

Святослав Иванов рассказывает, каким получился байопик с Юрой Борисовым

Forbes
Только для женщин Только для женщин

Симптомы, которые сигнализируют, что тебе срочно нужно на прием к гинекологу

Лиза
«Огонь-батареи»: как изменились космические солнечные батареи за 67 лет «Огонь-батареи»: как изменились космические солнечные батареи за 67 лет

Какой путь прошли солнечные элементы космического типа с момента изобретения?

ТехИнсайдер
Момент истины Момент истины

За последние годы витамин D стал суперзвездой среди нутриентов

Лиза
Узкий таз защитил от артрита колена и опущения органов Узкий таз защитил от артрита колена и опущения органов

Широкий таз облегчает деторождение, но добавляет других проблем со здоровьем

N+1
Дети в рекламе: путь к успеху или реализация родительских амбиций Дети в рекламе: путь к успеху или реализация родительских амбиций

Как съемки в рекламе могут сказаться на детской психике

Forbes
5 самых распространенных наказаний в отношениях 5 самых распространенных наказаний в отношениях

Допустимы ли наказания в отношениях?

Psychologies
Как Мария Сибилла Мериан научила европейцев восхищаться гусеницами и жуками Как Мария Сибилла Мериан научила европейцев восхищаться гусеницами и жуками

Мария Сибилла Мериан сломала стереотипы и отправилась ловить бабочек в Америку

Forbes
Выставка Леонида Шервуда в Русском музее Выставка Леонида Шервуда в Русском музее

Леонид Владимирович Шервуд родился в Москве 16 (28) апреля 1871 года

Наука и жизнь
Ароматические углеводороды покрасили тела Пояса Койпера в красный цвет Ароматические углеводороды покрасили тела Пояса Койпера в красный цвет

Астрономы подтвердили идею образования красной окраски тел Пояса Койпера

N+1
Почему люди верят в теории заговора? Простое объяснение ученых! Почему люди верят в теории заговора? Простое объяснение ученых!

Люди склонны верить в теории заговора из-за сочетания личностных черт

ТехИнсайдер
Дело Кэтлин Фолбигг: удивительный финал истории самой жестокой серийной детоубийцы Австралии Дело Кэтлин Фолбигг: удивительный финал истории самой жестокой серийной детоубийцы Австралии

«Самой жестокой убийцы Австралии» больше не существует

VOICE
Как законно обогащаться за счет ошибок и просчетов продавцов дорогостоящих товаров Как законно обогащаться за счет ошибок и просчетов продавцов дорогостоящих товаров

Как Стив Белкин обогатился за счет авиакомпаний

Forbes
Технология блокчейн делает управление роем роботов безопасным Технология блокчейн делает управление роем роботов безопасным

Как технология блокчейн обеспечивает безопасность роботов

ТехИнсайдер
«Север России — стратегически важный для нас регион» «Север России — стратегически важный для нас регион»

Север, Сибирь и Дальний Восток, — объект пристального внимания государства

РБК
Что произойдет, если Земля начнет вращаться быстрее? Что произойдет, если Земля начнет вращаться быстрее?

Что будет, если наши привычные 24 часа в сутках сократятся?

ТехИнсайдер
Андрей Князев Андрей Князев

Эпичный камбэк «Короля и Шута» вызван сериалом-байопиком по творчеству «КИШа»

Собака.ru
«Вот и все. Смежили очи гении...» Василий Качалов «Вот и все. Смежили очи гении...» Василий Качалов

Беспрецедентный пример славы, почитания и поклонения перед талантом

Караван историй
Хищники перекусили рекордно длинные шеи танистрофеев Хищники перекусили рекордно длинные шеи танистрофеев

Необычная анатомическая черта сделала танистрофеев уязвимыми перед хищниками

N+1
Культовые кроссовки, выпуск 13: история adidas Micropacer — тренировочной модели, опередившей свое время Культовые кроссовки, выпуск 13: история adidas Micropacer — тренировочной модели, опередившей свое время

Рассказываем о самой футуристической модели кроссовок adidas

Правила жизни
Держись подальше Держись подальше

7 заблуждений об алкогольной зависимости, в которые до сих пор многие верят

Лиза
6 признаков хорошей тренировки 6 признаков хорошей тренировки

Сигналы организма дадут понять, каких результатов стоит ждать от тренировок

Maxim
Миссия допустима: 5 случаев, когда можно шпионить за партнером Миссия допустима: 5 случаев, когда можно шпионить за партнером

По мнению экспертов, есть ситуации, в которых можно следить за партнером

VOICE
Сергей Сельянов Сергей Сельянов

Патриарх независимого российского кинематографа

Собака.ru
Владимир Хавинсон Владимир Хавинсон

Академик РАН занимается изучением нормализации активности генов больше 40 лет

Собака.ru
Ученые впервые увидели свет древнейших галактик, родившихся через миллиард лет после Большого Взрыва Ученые впервые увидели свет древнейших галактик, родившихся через миллиард лет после Большого Взрыва

Само собой разумеется, что вокруг квазаров могут быть галактики

ТехИнсайдер
В поисках уральского времени В поисках уральского времени

Владимир Селезнев: искусство горизонтальных отношений

Weekend
Московский мускат Московский мускат

Органичный микс из современной мебели, классической отделки и живописи

SALON-Interior
Как магазины становятся умными Как магазины становятся умными

О том, как нейросеть VIJU мониторит ритейл

Деньги
Как Как

Как обрести уверенность в себе без помощи фильтров?

VOICE
Открыть в приложении