Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Одуванчик на голове: почему от влажности волосы пушатся и завиваются Одуванчик на голове: почему от влажности волосы пушатся и завиваются

Почему же влажность «пушит» наши локоны и можно ли с этим что-то сделать?

ТехИнсайдер
Почему камера на 50 Мп может снимать лучше, чем сенсор на 108 Мп? Почему камера на 50 Мп может снимать лучше, чем сенсор на 108 Мп?

Почему большое количество мегапикселей не всегда выдаёт хорошие результаты?

CHIP
Как сделать удаленный рабочий стол и какой софт для этого использовать Как сделать удаленный рабочий стол и какой софт для этого использовать

Как сделать подключение к удаленному рабочему столу под управлением Windows

CHIP
«Всегда собирайте своих современников»: как вкладывать в искусство «Всегда собирайте своих современников»: как вкладывать в искусство

Разбираемся в нюансах вкладов в искусство

РБК
Изогнутый экран смартфона — это удобно? Изогнутый экран смартфона — это удобно?

Стоит ли покупать смартфоны с изогнутыми экранами?

CHIP
ЗОЖ. Оборотни полки ЗОЖ. Оборотни полки

Андрей Соколов о неоднозначности продуктов на полках магазинов

Агроинвестор
«Хорея»: дочь радиобиолога о болезни отца и принятии особенностей близких «Хорея»: дочь радиобиолога о болезни отца и принятии особенностей близких

Отрывок из автофикшна «Хорея» Марины Кочан

Forbes
Глубокая стимуляция мозга во сне укрепляет память Глубокая стимуляция мозга во сне укрепляет память

Мозг закрепляет новую информацию во время сна

ТехИнсайдер
«Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре «Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре

Постоянный обмен — лучший способ углубить отношения

Psychologies
От чуда в Стамбуле до камбэка «Манчестер Юнайтед»: самые драматичные финалы в футболе От чуда в Стамбуле до камбэка «Манчестер Юнайтед»: самые драматичные финалы в футболе

Если спорт — это эмоции, то футбол — это эмоции, возведенные в степень

Forbes
«Это слишком сложно»: 50 оправданий людей, которые не хотят меняться, — проверьте себя «Это слишком сложно»: 50 оправданий людей, которые не хотят меняться, — проверьте себя

Почему на предложение изменить мир, начав с себя, мы отвечаем «да, но…»?

Psychologies
Откуда взялся мем про 40 кошек: ни одна женщина не обидится на эту шутку, если узнает ее происхождение Откуда взялся мем про 40 кошек: ни одна женщина не обидится на эту шутку, если узнает ее происхождение

Почему считается, что у сильной и независимой женщины должно быть 40 кошек?

VOICE
Как попасть в игровую вселенную: 5 книг для тех, кто хочет познакомиться с жанром литРПГ Как попасть в игровую вселенную: 5 книг для тех, кто хочет познакомиться с жанром литРПГ

Книги, в которых герои попадают в виртуальные миры

ТехИнсайдер
Родителям на заметку! Речь взрослых влияет на когнитивное развитие ребенка Родителям на заметку! Речь взрослых влияет на когнитивное развитие ребенка

Родители, которые разговаривают со своими младенцами, улучшают развитие их мозга

ТехИнсайдер
Как Как

Как обрести уверенность в себе без помощи фильтров?

VOICE
Алькасар. «Всё спокойно» Алькасар. «Всё спокойно»

Как древняя фортификация Алькасар получила мировую известность

Дилетант
Выставка Леонида Шервуда в Русском музее Выставка Леонида Шервуда в Русском музее

Леонид Владимирович Шервуд родился в Москве 16 (28) апреля 1871 года

Наука и жизнь
Женщина села в тюрьму якобы за убийство своих детей. Но через 20 лет выяснилась правда! Женщина села в тюрьму якобы за убийство своих детей. Но через 20 лет выяснилась правда!

История женщины, которая провела в заключении 20 лет из-за ложного обвинения

ТехИнсайдер
Аномальная планета пережила смерть своей звезды: космическая тайна Аномальная планета пережила смерть своей звезды: космическая тайна

Каким-то чудом эта планета продолжает существовать

ТехИнсайдер
Любовь, перверсия и смерть. Как писал Эгон Шиле Любовь, перверсия и смерть. Как писал Эгон Шиле

Как жил и писал Эгон Шиле

СНОБ
Одиночество лидера Одиночество лидера

Одиночество как проявление силы человека в исполнении Николая Рериха

Вокруг света
Почему в автомобилях до сих пор используют свинцовые, а не литиевые аккумуляторы? Почему в автомобилях до сих пор используют свинцовые, а не литиевые аккумуляторы?

Технологии сделали возможными массовое распространение электромобилей

CHIP
Разумная конкуренция Разумная конкуренция

Насколько велики шансы у нейросетей, ИИ и роботов отнять работу у людей

РБК
Лиза Шакира Лиза Шакира

«Шакира-Шакира» мы начали скандировать сразу

Собака.ru
Тонкости перехода Тонкости перехода

Управляющие ищут замену западным активам

Деньги
Дмитрий Лысенков Дмитрий Лысенков

Дмитрий Лысенков — хит сезона! Самый харизматичный актер страны

Собака.ru
Не “сова” и не “жаворонок” — оказалось, у людей есть шесть основных хронотипов Не “сова” и не “жаворонок” — оказалось, у людей есть шесть основных хронотипов

Вы спите как сова или как волк?

ТехИнсайдер
Детское выгорание: как не вырастить несчастного профессионала из лучших побуждений Детское выгорание: как не вырастить несчастного профессионала из лучших побуждений

Как вырастить из ребенка счастливого профессионала и не допустить выгорания

Forbes
«Пятница!» — это фабрика хороших новостей» «Пятница!» — это фабрика хороших новостей»

Своей невероятной энергией Тина Канделаки заряжает легко и сразу

OK!
«Парни не плачут»: как помочь мужчине в депрессии «Парни не плачут»: как помочь мужчине в депрессии

Депрессия у мужчин: её признаки и особенности

Psychologies
Открыть в приложении