Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как побороть тягу к еде: новое мнение ученых Как побороть тягу к еде: новое мнение ученых

Секрет победы над куском торта может заключаться в следующем… съесть этот кусок!

ТехИнсайдер
«Перчинка» и даже Трамп: этих звезд ты точно не заметила в «Сексе в большом городе» «Перчинка» и даже Трамп: этих звезд ты точно не заметила в «Сексе в большом городе»

В оригинальном «Сексе в большом городе» засветились многие звезды

VOICE
Дипфейк и верификация видео: как не стать жертвой обмана Дипфейк и верификация видео: как не стать жертвой обмана

Как обезопасить себя от дипфейков и мошеннических видео

Правила жизни
Подлинная история игрушек: почему дети изобретательницы Барби ненавидели эту куклу Подлинная история игрушек: почему дети изобретательницы Барби ненавидели эту куклу

Как кукла Барби повлияла на детей изобретательницы Рут Хэндлер?

VOICE
Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов

Как две девушки сделали бизнес на блюдах с яйцами?

Forbes
«Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре «Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре

Постоянный обмен — лучший способ углубить отношения

Psychologies
Он шантажом заставлял Софью рожать все чаще и чаще: жуткие факты из жизни Льва Толстого Он шантажом заставлял Софью рожать все чаще и чаще: жуткие факты из жизни Льва Толстого

Софья и Лев Толстой познакомились, когда ей было 18, а ему 34

ТехИнсайдер
Ненависть к пробкам и очередям: 7 триггеров, которые идут из нашего детства Ненависть к пробкам и очередям: 7 триггеров, которые идут из нашего детства

Почему рядовое событие порой вызывает у нас такую бурную реакцию?

Psychologies
Скульптор и делец. Как Лука делла Роббиа поставил производство майолики на поток Скульптор и делец. Как Лука делла Роббиа поставил производство майолики на поток

Александр Степанов рассказывает о творчестве художников Ренессанса

СНОБ
История Дэвида Реймера, которого насильно превратили в девочку: гендерный эксперимент Джона Мани История Дэвида Реймера, которого насильно превратили в девочку: гендерный эксперимент Джона Мани

Как пустяковая операция обернулась катастрофой для семьи Реймер

ТехИнсайдер
Шимпанзе подготовились к разным вариантам будущего Шимпанзе подготовились к разным вариантам будущего

Шимпанзе не дали экспериментатору украсть еду

N+1
Гельголанд, роковой остров Гельголанд, роковой остров

Маленький остров Гельголанд пережил много всего

Дилетант
Бес штрафа. На каких федеральных трассах больше всего камер Бес штрафа. На каких федеральных трассах больше всего камер

На каких трассах легче всего получить штраф с камер и что они фиксируют

РБК
Ультрахолодным атомам придали дробное квантовое состояние Холла Ультрахолодным атомам придали дробное квантовое состояние Холла

Физики впервые экспериментально сгенерировали дробные квантовые состояния Холла

N+1
Почему болит спина: 5 медицинских фактов о взаимосвязи тела и эмоций Почему болит спина: 5 медицинских фактов о взаимосвязи тела и эмоций

Почему боли в спине так тяжело диагностируются и поддаются лечению?

ТехИнсайдер
Прогулки по Мурому Прогулки по Мурому

Муром – древний город, в котором жили Петр и Феврония

Лиза
От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам

Сериалы по комиксам — Marvel, DC, Image Comics, японская манга, мультсериалы

Правила жизни
В солнечной долине В солнечной долине

Светлый таунхаус на первой линии Чёрного моря, в окружении гор и виноградников

Идеи Вашего Дома
«Не цельтесь в уязвимые места»: 8 негласных правил ссоры — применяйте с партнером «Не цельтесь в уязвимые места»: 8 негласных правил ссоры — применяйте с партнером

Как выяснять отношения уважительно и каких ошибок стоит избегать?

Psychologies
Как магазины становятся умными Как магазины становятся умными

О том, как нейросеть VIJU мониторит ритейл

Деньги
Как узнать материнскую плату: 7 простых способов Как узнать материнскую плату: 7 простых способов

Как узнать модель материнской платы в Windows 10 или 11?

CHIP
От Робби Уильямса до Марины Абрамович: как выглядит современный арт-рынок Эмиратов От Робби Уильямса до Марины Абрамович: как выглядит современный арт-рынок Эмиратов

Насколько велик их рыночный потенциал в Объединенных Арабских Эмиратах сегодня.

Forbes
Глубоководные осьминоги спустились на 2600 метров ради охоты Глубоководные осьминоги спустились на 2600 метров ради охоты

Большую часть времени эти осьминоги проводят в толще воды, а охотятся на дне

N+1
Михаил Касаткин: «О тейпировании существует большое количество мифов и спекуляций, которые вводят в заблуждение людей и дискредитируют сам метод» Михаил Касаткин: «О тейпировании существует большое количество мифов и спекуляций, которые вводят в заблуждение людей и дискредитируют сам метод»

Тейпирование – одна из немногих технологий, которая пришла в медицину из спорта

Здоровье
Как подобрать форму носа по типу лица: лучшая памятка от хирурга перед ринопластикой Как подобрать форму носа по типу лица: лучшая памятка от хирурга перед ринопластикой

Врач рассказал, как грамотно подготовиться к пластике носа

VOICE
Этнокультурный вектор устойчивого развития. Женщины Севера Этнокультурный вектор устойчивого развития. Женщины Севера

Современные тренды устойчивого развития меняют подходы к управлению

РБК
«Обжигающе горячий»: как чипсы Cheetos навсегда изменили жизнь Ричарда Монтаньеса «Обжигающе горячий»: как чипсы Cheetos навсегда изменили жизнь Ричарда Монтаньеса

Фильм о мексиканце, который завязал с криминалом и устроился на фабрику чипсов

Forbes
Выражайте благодарность и проявляйте сочувствие: 5 шагов к улучшению отношений — попробуйте на практике Выражайте благодарность и проявляйте сочувствие: 5 шагов к улучшению отношений — попробуйте на практике

Мы часто слышим: отношения — это работа. Но что именно следует делать?

Psychologies
Диета «Форсаж» Диета «Форсаж»

Минус 5 кг за 2 недели – оцени результат!

Лиза
Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта

Как более менее пройти кризис миграции?

Psychologies
Открыть в приложении