По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Крепкий иммунитет к переменам: почему мы сопротивляемся новому и как это изменить Крепкий иммунитет к переменам: почему мы сопротивляемся новому и как это изменить

Как работает психологический механизм под названием «иммунитет к переменам»

Forbes
Тонкое взаимодействие Тонкое взаимодействие

Интерьер дома, построенного по индивидуальному проекту, сложился подобно пазлу

Идеи Вашего Дома
Дорого и сложно: что тормозит внедрение ИИ в медицину Дорого и сложно: что тормозит внедрение ИИ в медицину

Почему внедрение инноваций в медицине происходит так медленно?

Forbes
Ищу хорошего психолога Ищу хорошего психолога

Найти хорошего психолога самостоятельно непросто

Лиза
Ешь, двигайся, спи Ешь, двигайся, спи

Как повседневные решения влияют на здоровье и долголетие

kiozk originals
Не-молоко, безглютеновая диета и кофе без кофеина: мифы и реальность Не-молоко, безглютеновая диета и кофе без кофеина: мифы и реальность

Не-молоко, безглютеновая диета, декаф — это просто хитрости маркетологов?

Psychologies
7 научно обоснованных способов, как быстро побороть стресс на работе 7 научно обоснованных способов, как быстро побороть стресс на работе

Как справиться с резким скачком агрессии и быстро вернуться в нужное русло

ТехИнсайдер
Какие модели поведения приводят к разводу с вероятностью более 90% Какие модели поведения приводят к разводу с вероятностью более 90%

Паттерны поведения в отношениях, которые приводят к разводу

Psychologies
Рассада растет, как на дрожжах: 5 способов повторно использовать чайные пакетики на огороде Рассада растет, как на дрожжах: 5 способов повторно использовать чайные пакетики на огороде

На даче найдется много способов применения использованных чайных пакетиков

ТехИнсайдер
Созависимые отношения с братьями и сестрами: как найти баланс Созависимые отношения с братьями и сестрами: как найти баланс

Созависимые отношения нередко встречаются и между братьями и сестрами

Psychologies
Аглая Иванoвна Аглая Иванoвна

Бухгалтер переезжает в Петербург и за пару лет становится топ-моделью

Собака.ru
3 вещи, которые старят и прибавляют вес женщинам после 40 лет: мнение эксперта 3 вещи, которые старят и прибавляют вес женщинам после 40 лет: мнение эксперта

Гардероб после сорока лет — это не сплошные правила и отказы

VOICE
Великая пустота Великая пустота

Монголия – наименее населенная страна мира

Вокруг света
Машины больше некому чинить. Сервисы пожаловались на нехватку сотрудников Машины больше некому чинить. Сервисы пожаловались на нехватку сотрудников

Руководители автосервисов рассказали о нехватке сотрудников по всей России

РБК
Не только в коктейли: 10 потрясающих методов использования кубиков льда, которые пригодятся каждому Не только в коктейли: 10 потрясающих методов использования кубиков льда, которые пригодятся каждому

Какие суперспособности есть у обычного кусочка льда?

ТехИнсайдер
7 фильмов о разрушительной силе любви 7 фильмов о разрушительной силе любви

Фильмы о всепоглощающем чувстве любви, которой отдается в жертву самое дорогое

Maxim
Магнитный микроробот с алюминиевой чешуей остановил кровотечение в желудке свиньи Магнитный микроробот с алюминиевой чешуей остановил кровотечение в желудке свиньи

Прототип миниатюрного робота для биомедицинских целей

N+1
Городские синицы накопили меньше кортикостерона в перьях за период установления иерархии Городские синицы накопили меньше кортикостерона в перьях за период установления иерархии

Чем городские синицы отличаются от лесных

N+1
Жизнь вечная. 8 книг о высоких технологиях в медицине Жизнь вечная. 8 книг о высоких технологиях в медицине

Подборка захватывающего медицинского нон-фикшена

СНОБ
12 фильмов про детей, которые интересно смотреть взрослым 12 фильмов про детей, которые интересно смотреть взрослым

Лучшее развлечение в День защиты детей — глянуть что-то поучительное всей семьей

Maxim
Михаил Пиотровский: «Заставляем людей думать» Михаил Пиотровский: «Заставляем людей думать»

Как принималось решение, касающееся эрмитажного экспоната? Чем живёт Эрмитаж?

Дилетант
Правила жизни Джона Ромиты — старшего Правила жизни Джона Ромиты — старшего

Правила жизни американского художника комиксов Джона Ромиты — старшего

Правила жизни
Жена зарабатывает больше: как обойти стереотипы и сохранить гармонию в отношениях Жена зарабатывает больше: как обойти стереотипы и сохранить гармонию в отношениях

Существуют многие успешные пары, где жена зарабатывает больше, и они счастливы

Psychologies
Правда и мифы о белке: почему он так нужен, но вы, скорее всего, едите его недостаточно Правда и мифы о белке: почему он так нужен, но вы, скорее всего, едите его недостаточно

Зачем нашему организму белок и как понять, достаточно ли его вы потребляете?

Правила жизни
Пропускать душ и грызть ногти: 6 детских привычек, которые вообще-то полезны Пропускать душ и грызть ногти: 6 детских привычек, которые вообще-то полезны

Неэстетичные привычки, которые идут детям лишь на пользу

Psychologies
Первая карта метагенома почв Первая карта метагенома почв

Почвы представляют собой одно из крупнейших хранилищ мирового биоразнообразия

Наука и жизнь
Растет популярность гастротуров Растет популярность гастротуров

Знакомство с кулинарными традициями дополняет многие туристические программы

РБК
Почему секс полезен для здоровья Почему секс полезен для здоровья

Способность наслаждаться интимной близостью продлевает нам жизнЬ

Psychologies
Каникулы без родителей Каникулы без родителей

Как подготовить ребенка к поездке в лагерь и пережить ее самим?

Лиза
Чувство уюта Чувство уюта

Интерьер этой квартиры получился не только эстетичным, но и очень комфортным

SALON-Interior
Открыть в приложении