По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Искусственный интеллект за кадром: как цифровые сотрудники меняют правила игры Искусственный интеллект за кадром: как цифровые сотрудники меняют правила игры

Кто такие цифровые сотрудники, как они влияют на бизнес?

Forbes
Суп кочевника Суп кочевника

Монгольский наваристый мясной суп

Вокруг света
Как выбрать телевизор: советы от специалиста Как выбрать телевизор: советы от специалиста

​​​​​​​Выбор телевизора — процесс, который требует комплексного подхода

ТехИнсайдер
Нужно ли промывать рис перед готовкой: мнение экспертов Нужно ли промывать рис перед готовкой: мнение экспертов

Зачем люди промывают рис?

ТехИнсайдер
«Вселенная 25» — страшный эксперимент, который показал, что станет с человечеством, если создать «рай на Земле» «Вселенная 25» — страшный эксперимент, который показал, что станет с человечеством, если создать «рай на Земле»

Джон Кэлхун доказал: удовлетворение всех потребностей человека ведет к гибели

ТехИнсайдер
Правда ли, что с годами происходит падение нравов или это только иллюзия Правда ли, что с годами происходит падение нравов или это только иллюзия

Ученые пришли к выводу, что восприятие морального упадка является иллюзией

ТехИнсайдер
Детство с полуголыми женщинами: как сложилась жизнь сына основателя Playboy Хью Хефнера и зачем он раздевается за деньги Детство с полуголыми женщинами: как сложилась жизнь сына основателя Playboy Хью Хефнера и зачем он раздевается за деньги

Почему Марстон Хефнер попал в заголовки?

VOICE
Они и я: как отличить истинную цель от навязанной обществом Они и я: как отличить истинную цель от навязанной обществом

Как научиться слышать себя и отличать настоящие цели от навязанных обществом

Psychologies
Лунная красотка: почему с подиума пропала супермодель Надя Ауэрманн и что она делает сейчас Лунная красотка: почему с подиума пропала супермодель Надя Ауэрманн и что она делает сейчас

В 1990-е Надя Ауэрманн была одной из самых востребованных и знаменитых моделей

VOICE
«Вот и все. Смежили очи гении...» Василий Качалов «Вот и все. Смежили очи гении...» Василий Качалов

Беспрецедентный пример славы, почитания и поклонения перед талантом

Караван историй
Дресс-код против жары: как модно одеваться на работу летом - советы стилиста Дресс-код против жары: как модно одеваться на работу летом - советы стилиста

Как составить рабочий гардероб так, чтобы никогда не отвлекаться на погоду

VOICE
Нос кошки устроен как отличный газовый хроматограф Нос кошки устроен как отличный газовый хроматограф

Ученые создали трехмерную компьютерную модель носа кошки

ТехИнсайдер
«Обычно я не так легкомысленна, но…»: как и почему на нас влияет эротическая литература «Обычно я не так легкомысленна, но…»: как и почему на нас влияет эротическая литература

Каким терапевтическим эффектом обладают печатные постельные сцены?

Psychologies
Перовскитные солнечные элементы потеряли менее двух процентов эффективности за тысячу часов Перовскитные солнечные элементы потеряли менее двух процентов эффективности за тысячу часов

Химики удержали органические катионы в перовскитных солнечных элементах

N+1
Физик разобрался в стабильности нити стрингшутера Физик разобрался в стабильности нити стрингшутера

Физик экспериментально и теоретически исследовал вращение нити в стрингшутере

N+1
Сепарация от родителей: что надо помнить, если вы взрослеете прямо сейчас Сепарация от родителей: что надо помнить, если вы взрослеете прямо сейчас

Как отделить себя от родных и побороть желание во всем им угодить

Psychologies
Маникюрное табу: не используй этот лак для ногтей, если тебе 50 лет или больше Маникюрное табу: не используй этот лак для ногтей, если тебе 50 лет или больше

Есть лак, который не стоит использовать, если ты разменяла шестой десяток лет

VOICE
«Не верьте всему, что крутится в голове»: правда и ложь о навязчивых мыслях «Не верьте всему, что крутится в голове»: правда и ложь о навязчивых мыслях

Тревожные, повторяющиеся мысли мучают многих людей. Как с ними бороться?

Psychologies
«Эти дни» на Уимблдоне: как теннисистки отстояли право не носить белое белье «Эти дни» на Уимблдоне: как теннисистки отстояли право не носить белое белье

Теннисистки несколько раз поднимали одну из самых табуированных тем в обществе

Forbes
Дать отпор и справиться с бессилием: чем полезна злость — 5 неочевидных преимуществ Дать отпор и справиться с бессилием: чем полезна злость — 5 неочевидных преимуществ

Почему опасен запрет на агрессию и какие бонусы на самом деле несет это чувство?

Psychologies
Александр Макаров Александр Макаров

Из Питера в первое плавание отправилась уникальная платформа «Северный полюс»

Собака.ru
Алла Горбунова Алла Горбунова

Книги Аллы Горбуновой претендуют на манифесты поколения и собирают премии

Собака.ru
Cкорая помощь из сада Cкорая помощь из сада

Под рукой нет аптечки? Некоторые растения работают не хуже таблеток

Лиза
Невесту заказывали? Самые безумные наряды героинь шоу «Давай поженимся» Невесту заказывали? Самые безумные наряды героинь шоу «Давай поженимся»

Каких только участниц не было на шоу "Давай поженимся"!

VOICE
Я сижу на берегу Я сижу на берегу

Панически боишься воды? Лови советы нашего психолога

Лиза
Синие пенисы и пульсирующие вульвы: что такое эпидидимальная гипертензия и чем она опасна Синие пенисы и пульсирующие вульвы: что такое эпидидимальная гипертензия и чем она опасна

Как эпидидимальная гипертензия влияет на сексуальное поведение

Psychologies
В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье

Как жить с абьюзивной свекровью?

Psychologies
Взгляд в будущее Взгляд в будущее

Вопрос о перспективах долгосрочного экономического развития в России

Деньги
«Природный Оземпик»: в соцсетях сходят с ума по новой добавке для похудения — что думают о ней врачи? «Природный Оземпик»: в соцсетях сходят с ума по новой добавке для похудения — что думают о ней врачи?

Уколы для диабетиков помогают для похудения?

VOICE
Не будем ссориться! Не будем ссориться!

Как избегать конфликтов с окружающими?

Лиза
Открыть в приложении