Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить

Можно ли покинуть место ДТП, оставив записку с телефонным номером?

ТехИнсайдер
От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам

Сериалы по комиксам — Marvel, DC, Image Comics, японская манга, мультсериалы

Правила жизни
Какими бывают виды отверток и бит для шуруповертов Какими бывают виды отверток и бит для шуруповертов

Какие бывают отвертки — виды и названия наконечников, а также их размеры

CHIP
Страшно? Не бойтесь! Как наш мозг обманывает тело Страшно? Не бойтесь! Как наш мозг обманывает тело

Почему мы боимся смерти?

Psychologies
Вместо похода к психологу: 4 домашних дела, которые помогут успокоить нервы Вместо похода к психологу: 4 домашних дела, которые помогут успокоить нервы

Как снизить уровень стресса и снять тревогу в домашних условиях?

ТехИнсайдер
Дети и взрослые с СДВГ: отвечаем на самые важные вопросы Дети и взрослые с СДВГ: отвечаем на самые важные вопросы

Как отличить особенности поведения или темперамента ребенка от диагноза?

Psychologies
Анна Котова: «Моя роль от меня не уйдет» Анна Котова: «Моя роль от меня не уйдет»

«Вода камень точит. Важно не сдаваться!»

Коллекция. Караван историй
Можно ли заработать на инвестициях в музыкальную индустрию Можно ли заработать на инвестициях в музыкальную индустрию

Какими знаниями нужно обладать и сколько времени и денег придется вложить?

РБК
Правила жизни Арама Хачатуряна Правила жизни Арама Хачатуряна

Правила жизни советского композитора, дирижера и педагога Арама Хачатуряна

Правила жизни
Дети в США все чаще ложатся под нож для удаления лишнего веса. Нормально ли это? Дети в США все чаще ложатся под нож для удаления лишнего веса. Нормально ли это?

Почему все больше детей и подростков из США оказываются на операционном столе

ТехИнсайдер
Роботреугольники объединились в оригами-робота Роботреугольники объединились в оригами-робота

Инженеры разработали робота, состоящего из отдельных самостоятельных элементов

N+1
Как быстро охладиться: 4 научных способа Как быстро охладиться: 4 научных способа

Как спастись от жуткой жары?

ТехИнсайдер
Реальная любовь Реальная любовь

Пара — это когда два человека соединяются в одно целое

Seasons of life
Психостимуляторы оказались бесполезны при решении задачи о рюкзаке Психостимуляторы оказались бесполезны при решении задачи о рюкзаке

Повышение когнитивных усилий нивелировалось снижением их качества

N+1
Эротика в советской литературе Эротика в советской литературе

Хотите верьте, хотите нет, но в советской художественной литературе был секс

Maxim
Обед с метеоритом Обед с метеоритом

Как знаменитый Челябинский метеорит оставил след на кулинарной карте региона

Лиза
Как не дать психологическим травмам испортить вашу жизнь Как не дать психологическим травмам испортить вашу жизнь

Как себе помочь и стать успешным и счастливым человеком, несмотря на травмы

Psychologies
Миротворцы Миротворцы

Гражданская война, расколовшая Соединённые Штаты, продолжалась четыре года

Дилетант
За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана

Почему король Абдалла II так ценит свой личный островок спокойствия

VOICE
«Релокация похожа на влюбленность»: как строить международную карьеру «Релокация похожа на влюбленность»: как строить международную карьеру

Как решиться и выйти на международный рынок труда, если кажется, что уже поздно

Forbes
Доклад ООН: 90% людей в мире живут с предрассудками о мужчинах и женщинах Доклад ООН: 90% людей в мире живут с предрассудками о мужчинах и женщинах

Насколько гендерные стереотипы распространены по всему миру?

Forbes
Ультрахолодным атомам придали дробное квантовое состояние Холла Ультрахолодным атомам придали дробное квантовое состояние Холла

Физики впервые экспериментально сгенерировали дробные квантовые состояния Холла

N+1
Летние неприятности Летние неприятности

Лето – время отпусков и детских кишечных инфекций

Здоровье
К рекордам готовы К рекордам готовы

5 шагов не позволить себе отступить от похудения

Лиза
Кому нужны памятники природы?.. Кому нужны памятники природы?..

Что представляет собой памятник природы по сути?

Наука и жизнь
«Водолеев в июне ждет успех!»: как нас заставляют верить в предсказания и гороскопы «Водолеев в июне ждет успех!»: как нас заставляют верить в предсказания и гороскопы

Что такое эффект субъективного подтверждения и как его используют астрологи?

Psychologies
О вкусах спорят? Узнайте правила кулинарии, которые можно игнорировать! О вкусах спорят? Узнайте правила кулинарии, которые можно игнорировать!

Правда, что не стоит мыть грибы и готовить на оливковом масле?

ТехИнсайдер
Кто твой главный враг по знаку зодиака? Кто твой главный враг по знаку зодиака?

В кого из знаков зодиака тебе лучше всего кинуть Магическим шаром?

VOICE
Металлический мир: что известно о миссии по изучению астероида Психея, которая стартует уже осенью Металлический мир: что известно о миссии по изучению астероида Психея, которая стартует уже осенью

Зонд Psyche должен осмотреть целиком металлический мир

ТехИнсайдер
Стесняюсь спросить: как выбрать интимную косметику Стесняюсь спросить: как выбрать интимную косметику

Напоминаем важные правила интимного ухода

Правила жизни
Открыть в приложении