По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От Трампа до Дидди: как именитые судебные художницы работали на громких процессах От Трампа до Дидди: как именитые судебные художницы работали на громких процессах

Судебные художницы: истоки профессии и самые известные процессы

Forbes
Сборная беженцев на Олимпийских играх: история уникальной команды Сборная беженцев на Олимпийских играх: история уникальной команды

Сборная беженцев: что это за команда?

Forbes
Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android

Способы защиты переписок для пользователей Android-устройств

ТехИнсайдер
«Водолеев в июне ждет успех!»: как нас заставляют верить в предсказания и гороскопы «Водолеев в июне ждет успех!»: как нас заставляют верить в предсказания и гороскопы

Что такое эффект субъективного подтверждения и как его используют астрологи?

Psychologies
Антиоксиданты: зачем они нужны и где их искать Антиоксиданты: зачем они нужны и где их искать

Какие продукты стоит внести в меню, чтобы поддерживать тело в тонусе?

Правила жизни
Отрывок из автобиографии Шэрон Стоун Отрывок из автобиографии Шэрон Стоун

Лауреат «Золотого глобуса» и «Эмми», Шэрон Стоун написала автобиографию

СНОБ
Объединение страны и репрессии: как королева Изабелла I Кастильская правила Испанией Объединение страны и репрессии: как королева Изабелла I Кастильская правила Испанией

Королева Изабелла I Кастильская разрушала стереотипы о женственности

Forbes
Дать отпор и справиться с бессилием: чем полезна злость — 5 неочевидных преимуществ Дать отпор и справиться с бессилием: чем полезна злость — 5 неочевидных преимуществ

Почему опасен запрет на агрессию и какие бонусы на самом деле несет это чувство?

Psychologies
Знакомства в интернете: 9 способов привлечь к себе внимание Знакомства в интернете: 9 способов привлечь к себе внимание

Как выделиться в интернете, чтобы привлечь к себе внимание?

Psychologies
Огоньки большого города Огоньки большого города

«Личная жизнь»: японская мелодрама из жизни социальных работников

Weekend
Пора на дачу — грядки полоть! 5 причин, почему работать в огороде полезно для здоровья Пора на дачу — грядки полоть! 5 причин, почему работать в огороде полезно для здоровья

Садоводство — настоящая тренировка для ума и тела, если правильно им заниматься

ТехИнсайдер
Трупная ткань может стать «эликсиром молодости» для кожи! Попробуете? Трупная ткань может стать «эликсиром молодости» для кожи! Попробуете?

Трупные клетки помогут вашей коже омолодиться

ТехИнсайдер
Правила жизни Арама Хачатуряна Правила жизни Арама Хачатуряна

Правила жизни советского композитора, дирижера и педагога Арама Хачатуряна

Правила жизни
Детское выгорание: как не вырастить несчастного профессионала из лучших побуждений Детское выгорание: как не вырастить несчастного профессионала из лучших побуждений

Как вырастить из ребенка счастливого профессионала и не допустить выгорания

Forbes
«Красные партизаны на востоке России» «Красные партизаны на востоке России»

Девиации, анархия и террор партизанщины

N+1
«Толкиеновское Средиземье»: как Алексей Карахан открыл турбазу «Молодость» на Алтае «Толкиеновское Средиземье»: как Алексей Карахан открыл турбазу «Молодость» на Алтае

Алексей Карахан — о том, что такое современная и комфортная турбаза

Forbes
Фрукты бывают вредными? Вот что будет, если их слишком много в диете! Фрукты бывают вредными? Вот что будет, если их слишком много в диете!

Фрукты являются ключом здорового питания, но их избыток может быть вредным

ТехИнсайдер
Как правильно мыть голову: 8 простых шагов Как правильно мыть голову: 8 простых шагов

Красивые волосы — это про генетику? Так думают многие и ошибаются

Psychologies
Почему Великая Тартария — миф? Почему Великая Тартария — миф?

Разбираемся, кто и почему придумал миф о великом государстве славяно-ариев

Maxim
Золотое сечение Золотое сечение

5 советов от дизайнера, как улучшить интерьер с помощью формулы гармонии

Лиза
23-летний россиянин съеден акулой. Почему нас ужасают такие события? 23-летний россиянин съеден акулой. Почему нас ужасают такие события?

Почему психика ярко реагирует на драматичные истории гибели людей?

Psychologies
Нейробиологи нашли, где в мозге человека находится его телесное Нейробиологи нашли, где в мозге человека находится его телесное

Удалось впервые локализовать "самоощущение" человека

ТехИнсайдер
Пряности Пряности

Пряности, без которых немыслима не только французская, но и многие другие кухни

Здоровье
Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова

Палеогенетики прочитали ДНК девяти человек, живших в позднем эпипалеолите

N+1
«В Бабкине тараканить некого», или Где искать секс за МКАД «В Бабкине тараканить некого», или Где искать секс за МКАД

Отправляемся в поисках секса на Чукотку и в Таиланд

СНОБ
Почему болит спина: 5 медицинских фактов о взаимосвязи тела и эмоций Почему болит спина: 5 медицинских фактов о взаимосвязи тела и эмоций

Почему боли в спине так тяжело диагностируются и поддаются лечению?

ТехИнсайдер
Людмила Петрановская объяснила, что делать, если ребенок не слышит, пока не наорешь Людмила Петрановская объяснила, что делать, если ребенок не слышит, пока не наорешь

Можно ли повышать голос на ребенка, если тот пропускает все мимо ушей?

Psychologies
«Мне 59, ему 22»: почему зрелые женщины сексуально привлекают молодых мужчин «Мне 59, ему 22»: почему зрелые женщины сексуально привлекают молодых мужчин

Почему зрелые женщины заводят отношения с мужчинами сильно младше себя?

Psychologies
Они и я: как отличить истинную цель от навязанной обществом Они и я: как отличить истинную цель от навязанной обществом

Как научиться слышать себя и отличать настоящие цели от навязанных обществом

Psychologies
Алгоритм сортировки, созданный ИИ, работает в 3 раза быстрее всех придуманных математиками за столетие Алгоритм сортировки, созданный ИИ, работает в 3 раза быстрее всех придуманных математиками за столетие

Искусственный интеллект нашел самые быстрые способы сортировки

ТехИнсайдер
Открыть в приложении