По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Подвал с секретом: как живет один их главных театров Москвы — пространство «Внутри» Подвал с секретом: как живет один их главных театров Москвы — пространство «Внутри»

Как архитектору удалось создать один из самых модных театров Москвы?

Forbes
Все обожают Пита: кто такой Пит Дэвидсон и почему его любят женщины Все обожают Пита: кто такой Пит Дэвидсон и почему его любят женщины

Как Питу Дэвидсону удается быть таким? Разбираем особенности его образа

Правила жизни
LoveGPT: как искусственный интеллект меняет приложения для знакомств и сферу отношений LoveGPT: как искусственный интеллект меняет приложения для знакомств и сферу отношений

AI уже добрался до человеческих отношений, но пока не установил власть над ними

СНОБ
В солнечной долине В солнечной долине

Светлый таунхаус на первой линии Чёрного моря, в окружении гор и виноградников

Идеи Вашего Дома
Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу

Как сплетни и слухи могут влиять на рабочий процесс и настроения в офисе

Forbes
Исследователи попросили ChatGPT разработать кадровую политику компании. Он не справился, но помог Исследователи попросили ChatGPT разработать кадровую политику компании. Он не справился, но помог

Какую помощь может оказать чат-бот при формировании кадровой политики

ТехИнсайдер
Делиться ли проблемами с близкими? Делиться ли проблемами с близкими?

Стоит ли делиться наболевшим с близкими? Или наш долг — оградить их от забот?

Psychologies
Трипликация генов рецепторов интерферона вызвала типичные для синдрома Дауна симптомы у мышей Трипликация генов рецепторов интерферона вызвала типичные для синдрома Дауна симптомы у мышей

Открытие, которое можно использовать для разработки лекарств от синдрома Дауна

N+1
«Все равно надо двигаться дальше»: когда полезно игнорировать чувства — необычный взгляд на проблемы «Все равно надо двигаться дальше»: когда полезно игнорировать чувства — необычный взгляд на проблемы

В чем польза перестать прислушиваться к собственным чувствам

Psychologies
Этого новорождённого похитила медсестра. Позже ребенка нашли, но вернули не тем родителям! Этого новорождённого похитила медсестра. Позже ребенка нашли, но вернули не тем родителям!

Почти 50 лет Пол Фрончак не знал, что живет не в своей семье

ТехИнсайдер
Как выбрать удлинитель: 5 моментов, на которые надо обратить внимание Как выбрать удлинитель: 5 моментов, на которые надо обратить внимание

Удлинитель кажется простым аксессуаром, однако в его выборе достаточно нюансов

CHIP
Спасаем любимые вещи: как отстирать любую краску с одежды Спасаем любимые вещи: как отстирать любую краску с одежды

Можно ли спасти любимую одежду от краски?

ТехИнсайдер
«Не убийца, а всего лишь код, созданный и управляемый человеком»: сооснователь фонда Andreessen Horowitz о рисках ИИ «Не убийца, а всего лишь код, созданный и управляемый человеком»: сооснователь фонда Andreessen Horowitz о рисках ИИ

Страхи, связанные с ИИ, лишь сеют панику и тормозят развитие сектора

VC.RU
Сергей Сельянов Сергей Сельянов

Патриарх независимого российского кинематографа

Собака.ru
Как компании придумывают инклюзивный дизайн, чтобы их продукт был доступен всем Как компании придумывают инклюзивный дизайн, чтобы их продукт был доступен всем

Как инклюзивный дизайн помогает компаниям увеличить прибыль

Forbes
Гардеробная своими руками. Дизайнерские идеи для любого помещения Гардеробная своими руками. Дизайнерские идеи для любого помещения

Хорошо спроектированная гардеробная обеспечивает достаточно места для хранения

Лиза
Александра Власова: «Я изменила свою жизнь на 180 градусов» Александра Власова: «Я изменила свою жизнь на 180 градусов»

Я уверена, что любые отношения — это работа

Караван историй
Неорганизованный ребенок: 6 советов для решения проблемы — попробуйте самостоятельно Неорганизованный ребенок: 6 советов для решения проблемы — попробуйте самостоятельно

Простые и полезные рекомендации, как приучить ребенка к самостоятельности

Psychologies
Во-первых, это красиво… Как французский DS меняет наши представления об автомобильном интерьере Во-первых, это красиво… Как французский DS меняет наши представления об автомобильном интерьере

Компания DS Automobiles поделилась своим видением футуристических интерьеров

4x4 Club
Дочь Брюса Уиллиса назвала самый ранний симптом отцовской болезни Дочь Брюса Уиллиса назвала самый ранний симптом отцовской болезни

Какие первые признаки деменции были у Брюса Уиллиса?

Psychologies
Герой триллеров: 5 лучших аудиокниг легендарного Джона Маррса Герой триллеров: 5 лучших аудиокниг легендарного Джона Маррса

Отправляемся в мир историй, леденящих душу!

Maxim
Уйти чтобы вырасти: что значит стать «настоящим» взрослым Уйти чтобы вырасти: что значит стать «настоящим» взрослым

Отрывок из книги «Уйти чтобы вырасти. Сепарация как способ жить свою жизнь».

Forbes
Эдгар Шабанов Эдгар Шабанов

Эдгар Шабанов за последние полтора года привез в Россию 300 новых брендов

Собака.ru
Чувство уюта Чувство уюта

Интерьер этой квартиры получился не только эстетичным, но и очень комфортным

SALON-Interior
В сердечном ритме В сердечном ритме

Почему у современного ритма жизни есть «сердечное» сопровождение?

Лиза
Артельный труд. Как в России появились передвижники Артельный труд. Как в России появились передвижники

Какой след в истории России оставили передвижники?

СНОБ
Третья форма денег Третья форма денег

Зачем в России запускают цифровой рубль и как он будет работать

РБК
Как нейросети создают персонажей и киновселенные Как нейросети создают персонажей и киновселенные

Разбираемся, как используют нейросети в современной киноиндустрии

CHIP
В пещерной системе Райзинг Стар нашли погребения Homo naledi и произведения искусства В пещерной системе Райзинг Стар нашли погребения Homo naledi и произведения искусства

Архаичные люди с маленьким мозгом занимались символической деятельностью

N+1
Новый порядок Новый порядок

Куда (и почему) меняется значение слова «кристалл»

N+1
Открыть в приложении