Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые объяснили, как езда на велосипеде способствует снижению риска развития деменции Ученые объяснили, как езда на велосипеде способствует снижению риска развития деменции

Езда на велосипеде полезнее, чем вы думали

ТехИнсайдер
Как социоэкономический статус влияет на ваше общение с людьми? Узнайте секреты психологии! Как социоэкономический статус влияет на ваше общение с людьми? Узнайте секреты психологии!

Как социоэкономический статус влияет на самооценку людей и их мышление

ТехИнсайдер
Тела при нагревании расширяются, но не всегда Тела при нагревании расширяются, но не всегда

Что сдерживает тепловое расширение в уникальном сплаве из четырех элементов

ТехИнсайдер
Спутник Юпитера Европа может быть слишком холодным для развития жизни Спутник Юпитера Европа может быть слишком холодным для развития жизни

Ядро Европы не такое горячее, а значит тепла для развития жизни может не хватить

ТехИнсайдер
Тревожное исследование: ChatGPT убивает наше критическое мышление Тревожное исследование: ChatGPT убивает наше критическое мышление

Чем чрезмерное использование нейросетей крайне вредно для нашего мозга

ТехИнсайдер
Сложный вопрос. Чем отличается ВИЧ от СПИДа: объясняем простыми словами Сложный вопрос. Чем отличается ВИЧ от СПИДа: объясняем простыми словами

Как передаются и чем отличаются ВИЧ и СПИД

Лиза
12 лучших и интересных шпионских фильмов СССР 12 лучших и интересных шпионских фильмов СССР

Необходимые для полноты картины советские шпионские триллеры 80-х

Maxim
Бассейн на даче: это сложно или нет? Бассейн на даче: это сложно или нет?

Разбираемся, чего от бассейна на дачном участке больше — пользы или проблем?

CHIP
Книги жалоб Книги жалоб

Ярмо жизни и тень рая в прозе Людмилы Петрушевской

Weekend
Каникулы без родителей Каникулы без родителей

Как подготовить ребенка к поездке в лагерь и пережить ее самим?

Лиза
Нейросеть точно оценила хаос и помогла найти признаки болезни Альцгеймера на энцефалограммах Нейросеть точно оценила хаос и помогла найти признаки болезни Альцгеймера на энцефалограммах

Алгоритм смог рассортировать ЭЭГ здоровых людей и пациентом с Альцгеймером

ТехИнсайдер
Витамины для мамы Витамины для мамы

10 важных витаминов при планировании беременности

Лиза
Послеродовая депрессия бывает даже у молодых отцов. Вот как справиться с этим Послеродовая депрессия бывает даже у молодых отцов. Вот как справиться с этим

По оценкам исследований, послеродовой депрессии подвержены около 10% отцов

ТехИнсайдер
Почему вам стоит купить масло черного тмина: плюсы и минусы Почему вам стоит купить масло черного тмина: плюсы и минусы

Масло черного тмина содержит множество полезных веществ

ТехИнсайдер
(Не)равенство в прошлом и будущем | (In)equality in the Past and in the Future (Не)равенство в прошлом и будущем | (In)equality in the Past and in the Future

Взгляд авторов «влиятельных книг по экономической истории нового тысячелетия»

Позитивные изменения
«Красные партизаны на востоке России» «Красные партизаны на востоке России»

Девиации, анархия и террор партизанщины

N+1
Платья Дороти и «суеверные туфли»: что носила звезда мюзиклов Джуди Гарленд Платья Дороти и «суеверные туфли»: что носила звезда мюзиклов Джуди Гарленд

Джуди Гарленд не стала иконой стиля, но свой след в моде оставила

Правила жизни
«Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог «Я никогда не испытывала оргазм»: почему так бывает — объясняет сексолог

Почему не все женщины испытывают оргазм и как справиться с деликатной проблемой

Psychologies
Чувство уюта Чувство уюта

Интерьер этой квартиры получился не только эстетичным, но и очень комфортным

SALON-Interior
Спасаем любимые вещи: как отстирать любую краску с одежды Спасаем любимые вещи: как отстирать любую краску с одежды

Можно ли спасти любимую одежду от краски?

ТехИнсайдер
Новый Lexus GX доказывает, что у стильной формы может быть содержание Новый Lexus GX доказывает, что у стильной формы может быть содержание

Более крупный и мощный Lexus GX получил первое серьёзное обновление

4x4 Club
«Без любви ничего не получится» «Без любви ничего не получится»

Наталья Гнеушева о том, как делать кино успешным, а имена — узнаваемыми

OK!
Эксперт: ИИ не отнимет рабочие места у среднего класса, но сильно изменит саму работу Эксперт: ИИ не отнимет рабочие места у среднего класса, но сильно изменит саму работу

Лишь немногие останутся без работы из-за развития ИИ

ТехИнсайдер
Юлиана Слащева: Мультипликация — лучший способ познакомить детей с их родителями Юлиана Слащева: Мультипликация — лучший способ познакомить детей с их родителями

Интервью председателя совета директоров Союзмультфильма Юлианы Слащевой

СНОБ
Бережный уход: как получить все, если приходится сменить работу Бережный уход: как получить все, если приходится сменить работу

Итак, ты решила: пора увольняться, как сделать это правильно?

VOICE
Во-первых, это красиво… Как французский DS меняет наши представления об автомобильном интерьере Во-первых, это красиво… Как французский DS меняет наши представления об автомобильном интерьере

Компания DS Automobiles поделилась своим видением футуристических интерьеров

4x4 Club
Вулканы нивелируют пятую часть антропогенного нагрева атмосферы в XXI веке Вулканы нивелируют пятую часть антропогенного нагрева атмосферы в XXI веке

Сульфатные аэрозоли вулканического происхождения сильно охлаждают климат

N+1
«Муж шагнул в вечность»: вдова Юрия Шатунова обратилась к поклонникам певца в годовщину его смерти «Муж шагнул в вечность»: вдова Юрия Шатунова обратилась к поклонникам певца в годовщину его смерти

Светлана Шатунова рассказала, каким мужем и отцом был Юрий Шатунов

VOICE
Перевод стрелок. Почему мир отказывается от перехода на летнее время Перевод стрелок. Почему мир отказывается от перехода на летнее время

Зачем в России увеличивали световой день и почему мир отказывается от этого

СНОБ
«Позолоти ручку»: как работают инфоцыгане «Позолоти ручку»: как работают инфоцыгане

Что происходит на «тренингах счастья» и кто на них приходит

VOICE
Открыть в приложении