По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Из мужского гардероба — в одежду для Барби: как розовый стал женским цветом Из мужского гардероба — в одежду для Барби: как розовый стал женским цветом

Как розовый стал воплощением гендерных стереотипов

Forbes
4 правила идеальной лжи: как говорить неправду и выглядеть убедительным 4 правила идеальной лжи: как говорить неправду и выглядеть убедительным

Бывший специальный агент ФБР Джон Шафер раскрывает секреты идеальной лжи

Psychologies
Эти ошибки допускают все, и только 35% людей пользуются беспроводными наушниками правильно Эти ошибки допускают все, и только 35% людей пользуются беспроводными наушниками правильно

Ошибки, которые ухудшают качество звука и срок службы наушников

ТехИнсайдер
Миграцию летучих мышей удалось описать благодаря радарам и машинному обучению Миграцию летучих мышей удалось описать благодаря радарам и машинному обучению

Алгоритм помог отделить летучих мышей от птиц и насекомых

N+1
Исцеляющая сила секса. Что можно вылечить оргазмом Исцеляющая сила секса. Что можно вылечить оргазмом

Какое отношение сексуальное удовлетворение может иметь к терапии души?

СНОБ
Дофамин помогает мозгу отсекать неработающие варианты поиска Дофамин помогает мозгу отсекать неработающие варианты поиска

Дофамин — это не просто гормон, а инструмент обучения

ТехИнсайдер
Шимпанзе объединили жесты и мимику во избежание двусмысленности Шимпанзе объединили жесты и мимику во избежание двусмысленности

Частота мультимодальных сигналов, используемых шампанзе, увеличилась с возрастом

N+1
Зачем мы на самом деле ходим в рестораны: 5 причин Зачем мы на самом деле ходим в рестораны: 5 причин

Что нам дает прием пищи не дома, а в соответствующих заведениях?

Psychologies
Для тех, кто любит посложнее: 5 романов для интеллектуалов Для тех, кто любит посложнее: 5 романов для интеллектуалов

Сложные эпические романы — целое исследование человека, общества и истории

Maxim
Уйти чтобы вырасти: что значит стать «настоящим» взрослым Уйти чтобы вырасти: что значит стать «настоящим» взрослым

Отрывок из книги «Уйти чтобы вырасти. Сепарация как способ жить свою жизнь».

Forbes
Аквапорины астроцитов оказались ответственными за отек мозга после инсульта Аквапорины астроцитов оказались ответственными за отек мозга после инсульта

Острая ишемия вызвала рост внутриклеточной концентрации кальция

N+1
«Малочисленные народы прекрасно интегрированы в современном обществе» «Малочисленные народы прекрасно интегрированы в современном обществе»

Об участии в современной экономике женщин коренных малочисленных народов

РБК
Математики научили нейросеть предсказывать будущее. Пока не слишком далекое Математики научили нейросеть предсказывать будущее. Пока не слишком далекое

Исследование показало, как мозг предсказывает будущее в режиме реального времени

ТехИнсайдер
Беззаботное детство и немного идеологии: для чего в СССР создавали пионерские лагеря Беззаботное детство и немного идеологии: для чего в СССР создавали пионерские лагеря

Почему дать однозначную оценку пионерским лагерям сложно до сих пор?

Forbes
Дело Кэтлин Фолбигг: удивительный финал истории самой жестокой серийной детоубийцы Австралии Дело Кэтлин Фолбигг: удивительный финал истории самой жестокой серийной детоубийцы Австралии

«Самой жестокой убийцы Австралии» больше не существует

VOICE
Как безболезненно разносить новую пару обуви: 5 эффективных способов Как безболезненно разносить новую пару обуви: 5 эффективных способов

Разносить обувь без вреда для ног можно сразу несколькими способами!

ТехИнсайдер
В Монголии обнаружили древнейшее украшение в форме фаллоса В Монголии обнаружили древнейшее украшение в форме фаллоса

Древнейшее украшение в форме фаллоса, когда-либо найденное в мире

N+1
MIA BOYKA MIA BOYKA

MIA BOYKA научилась выигрывать в борьбе за внимание

Собака.ru
Ода сексизму: почему все критикуют новый сериал «Идол» с Лили-Роуз Депп и The Weeknd Ода сексизму: почему все критикуют новый сериал «Идол» с Лили-Роуз Депп и The Weeknd

Как сериал «Идол» создает стереотипы про музыкальную индустрию

Forbes
Стволовые клетки смогли восстановить сердце, поврежденное ишемической болезнью Стволовые клетки смогли восстановить сердце, поврежденное ишемической болезнью

Стволовые клетки помогут регенерировать сердечную мышцу

ТехИнсайдер
Самые добрые породы кошек Самые добрые породы кошек

9 покладистых и ласковых пород кошек, которые не представляют жизни без человека

Maxim
О вкусах спорят? Узнайте правила кулинарии, которые можно игнорировать! О вкусах спорят? Узнайте правила кулинарии, которые можно игнорировать!

Правда, что не стоит мыть грибы и готовить на оливковом масле?

ТехИнсайдер
«Посадить мысли на шпагат»: как наладить режим тренировок и питания — 3 совета «Посадить мысли на шпагат»: как наладить режим тренировок и питания — 3 совета

Что, если прислушаться к внутреннему голосу и быть настойчивыми, но гибкими?

Psychologies
«Базовая задача — регулирование трансграничного рынка» «Базовая задача — регулирование трансграничного рынка»

Каких мер ожидают от государства производители биологически активных добавок

РБК
Беларусь вводит химическую кастрацию для педофилов: насколько эффективно такое наказание Беларусь вводит химическую кастрацию для педофилов: насколько эффективно такое наказание

Как наказывают за насилие над детьми в разных странах

Psychologies
Когда воссияли звезды: ученые рассказали, какой была таинственная «эпоха Реионизации» на заре времен Когда воссияли звезды: ученые рассказали, какой была таинственная «эпоха Реионизации» на заре времен

Астрономы пытаются разгадать секреты того, когда Вселенная зажгла свои огни

ТехИнсайдер
10.203 10.203

10.203 — это творческое объединение и совместная мастерская уличных художников

Собака.ru
Понять и простить: почему вам изменили — 7 причин Понять и простить: почему вам изменили — 7 причин

Почему люди изменяют?

Psychologies
Марина Львова: «Это плавный эволюционный процесс» Марина Львова: «Это плавный эволюционный процесс»

Как начать путь к «бирюзовой» компании и чем это полезно бизнесу

РБК
Скульптор и делец. Как Лука делла Роббиа поставил производство майолики на поток Скульптор и делец. Как Лука делла Роббиа поставил производство майолики на поток

Александр Степанов рассказывает о творчестве художников Ренессанса

СНОБ
Открыть в приложении