Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

ИИ на страже безопасности: смогут ли нейросети бороться с хакерами ИИ на страже безопасности: смогут ли нейросети бороться с хакерами

Кто победит в этой схватке алгоритмов — защитники или взломщики?

ТехИнсайдер
Время Змееносца. Летнее небо Время Змееносца. Летнее небо

Змееносец — крупное экваториальное созвездие, пересекающее эклиптику

Наука и жизнь
Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android

Способы защиты переписок для пользователей Android-устройств

ТехИнсайдер
Юридический язык документов не понравился юристам Юридический язык документов не понравился юристам

Упрощенные договоры юристы оценили выше и запомнили лучше

N+1
Как путешествия меняют нас: 5 не заметных глазу трансформаций Как путешествия меняют нас: 5 не заметных глазу трансформаций

Как путешествия влияют на наше ментальное и физическое здоровье?

ТехИнсайдер
«Мы решили рискнуть»: как живут и строят бизнес переехавшие в Сербию россияне «Мы решили рискнуть»: как живут и строят бизнес переехавшие в Сербию россияне

В каких сферах русскоязычные релоканты открывают собственный бизнес в Сербии

Forbes
Рита и Саша Кутуковы Рита и Саша Кутуковы

Рита и Саша Кутуковы взрастили локальный бренд демократичной обуви Sintezia

Собака.ru
Совместное творчество: как искусство пришло в индустрию красоты Совместное творчество: как искусство пришло в индустрию красоты

Рассказываем о точках соприкосновения мира искусства и индустрии красоты

Правила жизни
Джон Кеннеди, наш западный партнёр Джон Кеннеди, наш западный партнёр

60 лет назад центральные газеты СССР напечатали полный текст речи президента США

Дилетант
«Ношу эту рубашку 20 лет». Пять историй о долгожителях гардероба «Ношу эту рубашку 20 лет». Пять историй о долгожителях гардероба

Девушки рассказали об одежде, обуви и сумках, которые они купили 10-20 лет

РБК
Ксения Михeева Ксения Михeева

Танцовщица Ксения Михеева в контемпорари пришла из классического балета

Собака.ru
Советский кутюр: история пяти культовых платьев и их создательниц Советский кутюр: история пяти культовых платьев и их создательниц

Самые известные советские платья: футуристичный Октябрь и африканские мотивы

Forbes
Человек, который не стал Гарри Поттером. Отрывок из романа Давида Фонкиноса Человек, который не стал Гарри Поттером. Отрывок из романа Давида Фонкиноса

Глава из романа о провале, который оказался вдохновляющей историей преодоления

СНОБ
«Год порно»: литературные откровения миллениала-провинциала «Год порно»: литературные откровения миллениала-провинциала

Критики называют Илью Мамаева-Найлз «российской Салли Руни»

Psychologies
Инвестиции в антикварные книги: доводы за и против Инвестиции в антикварные книги: доводы за и против

Как разнообразить свой портфель, вложившись в этот не самый очевидный актив

РБК
Платья Дороти и «суеверные туфли»: что носила звезда мюзиклов Джуди Гарленд Платья Дороти и «суеверные туфли»: что носила звезда мюзиклов Джуди Гарленд

Джуди Гарленд не стала иконой стиля, но свой след в моде оставила

Правила жизни
Актриса Дарья Калмыкова о театре, музыке и главном городе своей жизни Актриса Дарья Калмыкова о театре, музыке и главном городе своей жизни

Актриса Дарья Калмыкова ответила на несколько вопросов

СНОБ
Серийный убийца, орудовашвий в 1980-е, сдался полиции в 2023 году! Совесть замучила? Серийный убийца, орудовашвий в 1980-е, сдался полиции в 2023 году! Совесть замучила?

Почему серийный убийца явился с повинной?

ТехИнсайдер
Почему монструозный стиль подвинул в сторону «чистых» девушек Почему монструозный стиль подвинул в сторону «чистых» девушек

Почему стиль «хорошей девочки» начал уступать «дерзкой девчонке»?

Psychologies
Как гриб-зомби управляет телом своего хозяина: жуткое открытие Как гриб-зомби управляет телом своего хозяина: жуткое открытие

Гриб-паразит дергает своего хозяина за нервные волокна как марионетку

ТехИнсайдер
Каким был Эрнесто Че Гевара — рассказывает его брат Каким был Эрнесто Че Гевара — рассказывает его брат

Младший брат Че рассказывает об их детстве и о жизни в тени протеста

Правила жизни
Рефлексия белого человека Рефлексия белого человека

«Переводчик»: Гай Ритчи не о бандитах, а о войне

Weekend
Y-хромосома по-разному повлияла на исходы рака Y-хромосома по-разному повлияла на исходы рака

Как Y-хромосомы влияют на развитие колоректального рака и рака мочевого пузыря

N+1
Рассказ из сборника Анны Матвеевой «Армастан. Я тебя тоже» Рассказ из сборника Анны Матвеевой «Армастан. Я тебя тоже»

Воспоминание о лете и юности в Свердловске — в рассказе Анны Матвеевой

СНОБ
«Это наживается нервами десятилетий, а конфискуется в одну ночь» «Это наживается нервами десятилетий, а конфискуется в одну ночь»

Александр Солженицын о правилах выживания

Weekend
На краю земли На краю земли

Дизайнер Seasons Дарья Уланова вместе с друзьями отправилась на Сахалин

Seasons of life
Назинская трагедия — одно из самых страшных событий советской истории Назинская трагедия — одно из самых страшных событий советской истории

Для 4000 человек остров Назино стал не только местом ссылки, но и местом гибели

ТехИнсайдер
Новый робот умеет летать, ездить, ходить и даже больше Новый робот умеет летать, ездить, ходить и даже больше

Робот с таким широким набором возможностей нашел бы широкое применение

ТехИнсайдер
Александр Макаров Александр Макаров

Из Питера в первое плавание отправилась уникальная платформа «Северный полюс»

Собака.ru
«Импортозамещение возможно при наличии научно-производственной базы» «Импортозамещение возможно при наличии научно-производственной базы»

О локализации оборудования и программного обеспечения для промышленности

РБК
Открыть в приложении