Сегодня активно обсуждается «коллапс модели». Насколько это опасно?

ТехИнсайдерHi-Tech

Что такое «коллапс модели», чем он угрожает развитию ИИ и человека

Сегодня активно обсуждается так называемый «коллапс модели», явление при котором нейросеть деградирует и перестает работать. Но насколько реалистичны эти прогнозы и что вообще такое этот «коллапс модели»? С этим попробовал разобраться Аарон Дж. Сносвелл научный сотрудник по вопросам ИИ, Квинслендского технологического университета.

Владимир Губайловский

5925e3452d7f503fd3b5c03aa9bd4895_ce_900x600x293x0.jpg
Когда модели изображений искусственного интеллекта обучаются на собственных результатах, они могут создавать искаженные изображения, изуродованные пальцы или странные узоры. Изображения, созданные Sina Alemohammad and others.

Обсуждавшийся еще 2023 году, но ставший популярным совсем недавно «коллапс модели» относится к гипотетическому сценарию, при котором будущие системы ИИ деградируют, потому что обучаются на данных генерируемых ИИ.

Современные системы ИИ строятся на основе машинного обучения. Программисты закладывают математическую структуру, но реальный «интеллект» появляется в результате обучения системы на определенных дата-сетах.

Это не любые данные. Современным генеративным системам ИИ нужны высококачественные данные, причем в большом количестве. 

Сколько надо данных

«Чтобы обучить GPT-3, OpenAI понадобилось более 650 миллиардов английских слов текста — примерно в 200 раз больше, чем вся английская Википедия. Но для этого требовалось собрать почти в 100 раз больше исходных данных из интернета и 98% которых было затем отфильтровано и отброшено», — пишет Аарон Дж. Сносвелл со ссылкой на статью, размещенную на сервере arxiv.

Чтобы получить эти данные, крупные технологические компании, такие как OpenAI, Google, Meta (признана экстремистской организацией на территории РФ) и Nvidia, постоянно сканируют интернет, собирая терабайты контента, чтобы «накормить» машины. Но после появления в 2022 году широкодоступных и полезных систем генеративного ИИ люди все чаще загружают и делятся контентом, частично или полностью созданным ИИ.

В 2023 году исследователи начали задумываться о том, нельзя ли обойтись для обучения только данными, созданными ИИ, вместо данных, сгенерированных человеком.

Для этого есть огромные стимулы. Контент, созданный ИИ гораздо дешевле, чем данные, созданные человеком. Кроме того, его собирание не вызывает сомнений с этической и юридической точек зрения. На него ни у кого нет авторских прав, кроме компании которая его создает. 

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Палеонтологи восстановили перья археоптерикса, и объяснили как он летал Палеонтологи восстановили перья археоптерикса, и объяснили как он летал

Как ученые по оставшимся костям могут реконструировать облик археоптерикса?

ТехИнсайдер
Гробницы первых Гробницы первых

В чем уникальность формации Джоггинса?

Наука и техника
Как искусственный интеллект меняет бьюти-индустрию Как искусственный интеллект меняет бьюти-индустрию

Как технологии ИИ ежедневно помогают бьюти-мастерам в работе?

Inc.
Елизавета Лихачева: «Искусство не делает людей лучше ни в какой степени» Елизавета Лихачева: «Искусство не делает людей лучше ни в какой степени»

«В музее не существует второстепенных профессий, каждый винтик важен»

Караван историй
Продать продукт, даже если его еще нет: 5 шагов, чтобы на старте понять, «выстрелит» ‎ли бизнес Продать продукт, даже если его еще нет: 5 шагов, чтобы на старте понять, «выстрелит» ‎ли бизнес

Как проверить бизнес-идею до вложений и не влезть в долги

Inc.
Кто остановит испанского слизня Кто остановит испанского слизня

Какие методы борьбы существуют против инвазивного вредителя — испанского слизня

Наука
«Американцы и все остальные: Истоки и смысл внешней политики США» «Американцы и все остальные: Истоки и смысл внешней политики США»

Как Рузвельт убедил американцев вступить в Вторую Мировую войну

N+1
Константин Купервейс: «Если б я так умел играть, я бы горы свернул!» — сказал мне Булат Окуджава» Константин Купервейс: «Если б я так умел играть, я бы горы свернул!» — сказал мне Булат Окуджава»

Пианист Константин Купервейс вспоминает о работе с легендами

Коллекция. Караван историй
Как работают апельсиновые танкеры: удивительные факты о кораблях-соковозах Как работают апельсиновые танкеры: удивительные факты о кораблях-соковозах

Корабли-соковозы: как они доставляют соки по всему миру?

ТехИнсайдер
«Я лечила свои раны»: Виктория Маслова рассказала, как ее спасли съемки в сериале «Триггер» «Я лечила свои раны»: Виктория Маслова рассказала, как ее спасли съемки в сериале «Триггер»

Актриса Виктория Маслова о съемках в сериале «Триггер» и экранной героине

VOICE
Полный «Каос»: почему сериал Netflix о богах на Олимпе называют лучшим проектом года Полный «Каос»: почему сериал Netflix о богах на Олимпе называют лучшим проектом года

«Каос»: сатирический сериал о тирании и пьянящем всемогуществе

Forbes
Рассказ Дмитрия Захарова из сборника «Механическое вмешательство» Рассказ Дмитрия Захарова из сборника «Механическое вмешательство»

Рассказ, созданный Дмитрием Захаровым и искусственным интеллектом YandexGPT

СНОБ
Надо радоваться Надо радоваться

Оксана Лаврентьева уверяет: любые кризисы – вовсе не повод предаваться унынию

VOICE
Как с телефона отправить геолокацию: способы для iPhone и Android Как с телефона отправить геолокацию: способы для iPhone и Android

Как передать геолокацию телефона друзьям, близким и коллегам

CHIP
Герпетологи разглядели новый вид хамелеонов на фотографиях туристов Герпетологи разглядели новый вид хамелеонов на фотографиях туристов

Герпетологи описали новый вид миниатюрных хамелеонов из рода Brookesia

N+1
Проект «Разработка поворотного колена с улучшенными параметрами течения» Проект «Разработка поворотного колена с улучшенными параметрами течения»

Что позволит сделать системы труб для подачи газа более удобными в использовании

Наука и техника
Снимаем барьеры Снимаем барьеры

Как бороться с психологическими барьерами, мешающими жить полноценной жизнью

Лиза
Польза лаврового листа: 6 свойств Польза лаврового листа: 6 свойств

Зачем нужен лавровый лист и какими качествами он обладает

РБК
Как гинеколог Тавхида бен Шейх делала медицину в Тунисе доступной для женщин Как гинеколог Тавхида бен Шейх делала медицину в Тунисе доступной для женщин

Гинеколог Тавхида бен Шейх не только лечила женщин, но и боролась за их права

Forbes
Что такое Германская Новая Медицина и чем она опасна: объяснение врача Что такое Германская Новая Медицина и чем она опасна: объяснение врача

Германская Новая Медицина — метод лечения, считающийся шарлатанством

Psychologies
Интуиция или тревога: каким бывает предчувствие и как с ним справиться Интуиция или тревога: каким бывает предчувствие и как с ним справиться

Как освободиться от излишней тревожности, чтобы жить в спокойствии?

Psychologies
Как выбрать фото для сайта знакомств, чтобы удачно выйти замуж: 13 рекомендаций Как выбрать фото для сайта знакомств, чтобы удачно выйти замуж: 13 рекомендаций

Какие фото привлекут достойных кандидатов в дейтинговых приложениях?

Psychologies
Наташа Бардо: «Хочу сыграть ведьму» Наташа Бардо: «Хочу сыграть ведьму»

Эта звезда экрана явно не из тех, кто останавливается на достигнутом

VOICE
14 октября в Киришах 14 октября в Киришах

Больше двух лет я работал на этой стройке диспетчером СМУ-58 стройтреста 46...

Дилетант
6 способов защитить себя от Альцгеймера: правила жизни после 60 лет 6 способов защитить себя от Альцгеймера: правила жизни после 60 лет

Какие меры помогают сохранять себя в здравом уме и трезвой памяти?

Psychologies
Меньше атома: как работает квантовая механика Меньше атома: как работает квантовая механика

Отрывок из книги «Сто лет недосказанности» о квантовой механике

Inc.
Дальше — больше Дальше — больше

Российские художники, чьи инсталляции меняют взгляд человека на окружающий мир

СНОБ
Дочь за отца отвечает Дочь за отца отвечает

«Мой Марчелло»: знакомые и родственники в оммаже великому Мастроянни

Weekend
Фантазии на тему любви Фантазии на тему любви

Функциональный и удобный интерьер в соответствии с духом времени

Идеи Вашего Дома
Джефф-громовержец Джефф-громовержец

«Каос»: woke-повестка по-древнегречески

Weekend
Открыть в приложении