Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью

Ученые пытаются определить, где и сколько льда находится на Луне

ТехИнсайдер
Что делать, если ребенок упрям? Советы из 1956 года Что делать, если ребенок упрям? Советы из 1956 года

Как побороть упрямство ребенка?

Psychologies
Аналоги YouTube в России в 2025 году: 5 альтернативных сервисов Аналоги YouTube в России в 2025 году: 5 альтернативных сервисов

Какие аналоги видеохостинга могут стать конкурентами YouTube

Inc.
Психология против эзотерики Психология против эзотерики

Как отличить научный подход от мистицизма и шарлатанства

Лиза
10 крупных секс-скандалов шоу-бизнеса, не считая Пи Дидди 10 крупных секс-скандалов шоу-бизнеса, не считая Пи Дидди

Как звезды теряли свой моральный облик и к чему это приводило

Maxim
Мотоциклы с коляской как лучшее средство взволновать девушку Мотоциклы с коляской как лучшее средство взволновать девушку

Когда-то мотоциклы с коляской играли важную роль в жизни людей

Maxim
«Посадить мысли на шпагат»: как наладить режим тренировок и питания — 3 совета «Посадить мысли на шпагат»: как наладить режим тренировок и питания — 3 совета

Что, если прислушаться к внутреннему голосу и быть настойчивыми, но гибкими?

Psychologies
Квадрокоптер получил магнитный штепсель Квадрокоптер получил магнитный штепсель

Разработано дешевое решение для автономной подзарядки мультикоптеров

N+1
«Развиваем толерантность»: как работают спортивные проекты для людей с инвалидностью «Развиваем толерантность»: как работают спортивные проекты для людей с инвалидностью

Истории героинь, которые занимаются спортом с людьми с инвалидностью

Forbes
Людмила Петрановская объяснила, что делать, если ребенок не слышит, пока не наорешь Людмила Петрановская объяснила, что делать, если ребенок не слышит, пока не наорешь

Можно ли повышать голос на ребенка, если тот пропускает все мимо ушей?

Psychologies
Футуролог — об успешных и провальных инвестиционных стратегиях Футуролог — об успешных и провальных инвестиционных стратегиях

Евгений Кузнецов — об инвестициях в хорошие дела и высокотехнологичные проекты,

РБК
Как сохранить красоту маникюра после 50 лет: простые лайфхаки от экспертов Как сохранить красоту маникюра после 50 лет: простые лайфхаки от экспертов

Возраст – не помеха здоровым и крепким ногтям!

VOICE
Иван Волков Иван Волков

Все постановки с актером Иваном Волковым — автоматически зрительские хиты

Собака.ru
Ламинирование ресниц: плюсы, минусы и противопоказания к процедуре Ламинирование ресниц: плюсы, минусы и противопоказания к процедуре

Разбираемся вместе с экспертами, что лучше: ламинирование или ботокс ресниц?

РБК
Бес штрафа. На каких федеральных трассах больше всего камер Бес штрафа. На каких федеральных трассах больше всего камер

На каких трассах легче всего получить штраф с камер и что они фиксируют

РБК
«Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха «Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха

Чем существеннее ваши достижения, тем выше вероятность разозлить окружающих

Psychologies
Инвесторы ставят на дивиденды Инвесторы ставят на дивиденды

Дивидендная доходность эмитентов России остается одной из самых высоких в мире

Деньги
«Я увидел, через какие испытания прошла жена»: Сергей Сафронов рассказал, как присутствовал на родах «Я увидел, через какие испытания прошла жена»: Сергей Сафронов рассказал, как присутствовал на родах

Иллюзионист и телеведущий Сергей Сафронов присутствовал на родах младшей дочери

VOICE
Екатерина Смольникова Екатерина Смольникова

Основательница благотворительного фонда Play And Help и автор детских книг

Собака.ru
Скучать на даче? Некогда! Скучать на даче? Некогда!

Дачный отдых открывает массу возможностей для развития ребенка

Лиза
В поисках уральского времени В поисках уральского времени

Владимир Селезнев: искусство горизонтальных отношений

Weekend
Как тип привязанности повлияет на ваши отношения: 3 сценария Как тип привязанности повлияет на ваши отношения: 3 сценария

Как сценарий отношений зависит от детского опыта партнеров?

Psychologies
Клим Шипенко: «Космос точно вызывает зависимость» Клим Шипенко: «Космос точно вызывает зависимость»

История от первого режиссера, который побывал в космосе, и привез оттуда фильм!

Maxim
Подкаст журналиста помог подтвердить вину убийцы! Но спустя 27 лет после преступления Подкаст журналиста помог подтвердить вину убийцы! Но спустя 27 лет после преступления

Пол Флорес убил одногруппницу и пробыл на свободе почти три десятилетия

ТехИнсайдер
«Сумеречный сон»: как появился и почему исчез метод безболезненных родов, популярный в начале XX века «Сумеречный сон»: как появился и почему исчез метод безболезненных родов, популярный в начале XX века

В начале XX века газеты начали писать, что родить без боли возможно…

VOICE
Самый советский художник Самый советский художник

Памяти Ильи Кабакова

Weekend
«Каждый нуждается в тепле и свете». Как автор «Муми-троллей» сделала детскую литературу взрослой «Каждый нуждается в тепле и свете». Как автор «Муми-троллей» сделала детскую литературу взрослой

Туве Янссон на равных говорила с маленькими читателями об одиночестве и смерти

СНОБ
Как Мэри-Кейт и Эшли Олсен ушли в бизнес, а их сестра Элизабет стала звездой кино Как Мэри-Кейт и Эшли Олсен ушли в бизнес, а их сестра Элизабет стала звездой кино

История карьеры и бизнеса сестёр Олсен

Forbes
Чувство уюта Чувство уюта

Интерьер этой квартиры получился не только эстетичным, но и очень комфортным

SALON-Interior
Ешь и худей: какие продукты могут ускорить метаболизм? Ешь и худей: какие продукты могут ускорить метаболизм?

Как ускорить обмен веществ, не ночуя в тренажерном зале?

ТехИнсайдер
Открыть в приложении