Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Так ты „Опель“ или нет?» Три загадки самого первого автомобиля «Москвич» «Так ты „Опель“ или нет?» Три загадки самого первого автомобиля «Москвич»

История знаменитой модели «Москвич-400» полна парадоксов и вопросов

ТехИнсайдер
Инвестиции в антикварные книги: доводы за и против Инвестиции в антикварные книги: доводы за и против

Как разнообразить свой портфель, вложившись в этот не самый очевидный актив

РБК
Зловещий ИИ: зачем чат-боты рушат семьи и делают нас глупее и кто в этом виноват Зловещий ИИ: зачем чат-боты рушат семьи и делают нас глупее и кто в этом виноват

Действительно ли от нейросетей исходят серьезные угрозы?

Forbes
Домогательства возле общежития МГУ: истории студенток и комментарий психолога Домогательства возле общежития МГУ: истории студенток и комментарий психолога

Анастасия Гурнева: «Уязвимых членов общества должно поддерживать само общество»

Psychologies
Блогер рассказал, как надо правильно вести себя в Японии, и развеял стереотип о запретах на открытую одежду в общественных местах Блогер рассказал, как надо правильно вести себя в Японии, и развеял стереотип о запретах на открытую одежду в общественных местах

Правила поведения в японском обществе, которые помогут путешественникам

Maxim
«Мы ожидаем запуска нового цикла инвестиционного кредитования» «Мы ожидаем запуска нового цикла инвестиционного кредитования»

Пессимистические прогнозы о перспективах российской экономики не сбылись

Деньги
Врачи предлагали ампутацию: Билозерчев стал чемпионом, несмотря на травму и бойкот Врачи предлагали ампутацию: Билозерчев стал чемпионом, несмотря на травму и бойкот

История гимнаста Дмитрия Билозерчева: как он пережил травму и получил медаль

Forbes
Пожилая британка искупалась в холодной воде и потеряла память Пожилая британка искупалась в холодной воде и потеряла память

Британские врачи описали случай потери памяти после купания в холодной воде

N+1
Как 22-летняя певица из России Alizade покорила Турцию и продолжает покорять мир Как 22-летняя певица из России Alizade покорила Турцию и продолжает покорять мир

Почему Alizade пророчат мировую славу?

Forbes
Как кормление ребенка грудью влияет на его результаты в школе? Поразительно! Как кормление ребенка грудью влияет на его результаты в школе? Поразительно!

Время кормления детей грудным молоком влияет на результаты школьных тестов

ТехИнсайдер
Допрос с бесчувствием Допрос с бесчувствием

«Копенгагена не существует»: «Секс, ложь и видео» эпохи самоизоляции

Weekend
Витамины для мамы Витамины для мамы

10 важных витаминов при планировании беременности

Лиза
«Устойчивое развитие северных регионов невозможно без участия женщин» «Устойчивое развитие северных регионов невозможно без участия женщин»

Как гендерное равенство влияет на реализацию социальных проектов и инициатив

РБК
5 признаков, что ты пришла в плохую парикмахерскую: их должна знать каждая женщина 5 признаков, что ты пришла в плохую парикмахерскую: их должна знать каждая женщина

Выбрать хорошего парикмахера не так просто, как кажется на первый взгляд

VOICE
От проклятия до болезни: что думали о месячных в прошлом — и как с ними справлялись От проклятия до болезни: что думали о месячных в прошлом — и как с ними справлялись

Как в прошлом люди воспринимали менструацию? Какой была гигиена?

Psychologies
5 лучших моделей купальников для женщин 50+: мнение стилистов 5 лучших моделей купальников для женщин 50+: мнение стилистов

Какие купальники будут комфортны и функциональны для женщин 50+?

VOICE
На трипольском поселении нашли кость мигрантки На трипольском поселении нашли кость мигрантки

Ученые исследовали кость, найденную на трипольском поселении Коломийцев Яр

N+1

Грузовые суда оснастят высокотехнологичными парусами

ТехИнсайдер
Эстетика простоты Эстетика простоты

Текучая, визуально чистая архитектура, игра света и магия искусства

SALON-Interior
Как сделать рабочее место источником энергии: правильно организуем пространство для работы Как сделать рабочее место источником энергии: правильно организуем пространство для работы

Как сделать пространство для работы максимально комфортным

ТехИнсайдер
Рита и Саша Кутуковы Рита и Саша Кутуковы

Рита и Саша Кутуковы взрастили локальный бренд демократичной обуви Sintezia

Собака.ru
Меценат, любитель дорогих авто и легендарный игрок: Ибрагимович завершил карьеру Меценат, любитель дорогих авто и легендарный игрок: Ибрагимович завершил карьеру

Златан Ибрагимович объявил о завершении карьеры

Forbes
Нерожденный ребенок: как пережить прервавшуюся беременность Нерожденный ребенок: как пережить прервавшуюся беременность

Правил, которые помогут пережить прервавшуюся беременность и сохранить здоровье

Psychologies
В Стамбуле открывается Музей современного искусства от архитектора ГЭС-2 Ренцо Пьяно В Стамбуле открывается Музей современного искусства от архитектора ГЭС-2 Ренцо Пьяно

Яна Жиляева изучила, как устроен новый Музей современного искусства в Турции

Forbes
«Черное золото» России: как икра из дешевой закуски стала символом роскоши «Черное золото» России: как икра из дешевой закуски стала символом роскоши

История деликатеса, который в США подавали как закуску вместо арахиса

Forbes
Юридический язык документов не понравился юристам Юридический язык документов не понравился юристам

Упрощенные договоры юристы оценили выше и запомнили лучше

N+1
5 летних образов с джинсовкой, которые покажут твой вкус: подборка от стилиста 5 летних образов с джинсовкой, которые покажут твой вкус: подборка от стилиста

Look'и с джинсовыми куртками из моды не выйдут никогда. Показываем и доказываем!

VOICE
Джон Кеннеди, наш западный партнёр Джон Кеннеди, наш западный партнёр

60 лет назад центральные газеты СССР напечатали полный текст речи президента США

Дилетант
Миграцию летучих мышей удалось описать благодаря радарам и машинному обучению Миграцию летучих мышей удалось описать благодаря радарам и машинному обучению

Алгоритм помог отделить летучих мышей от птиц и насекомых

N+1
Великий безмолвный Великий безмолвный

Кто такой Артавазд Пелешян и как он перевернул документальное кино

Weekend
Открыть в приложении