Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ледник в Антарктиде «ворует» лед у своего соседа Ледник в Антарктиде «ворует» лед у своего соседа

Ученые обнаружили, что один из ледников Антарктиды ворует лед у своего соседа

ТехИнсайдер
Наперекор Бажову Наперекор Бажову

Алиса Горшенина: женские корни волшебной сказки

Weekend
Какими бывают виды отверток и бит для шуруповертов Какими бывают виды отверток и бит для шуруповертов

Какие бывают отвертки — виды и названия наконечников, а также их размеры

CHIP
Прощай, молодость: что такое кризис среднего возраста и как с ним справиться Прощай, молодость: что такое кризис среднего возраста и как с ним справиться

Как проявляется кризис среднего возраста и что поможет его пережить

Forbes
Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц

Шесть современных произведений, которые переосмысляют легендарные сюжеты

Forbes
Для измерения лунотрясений разработаны лазерные сейсмические датчики Для измерения лунотрясений разработаны лазерные сейсмические датчики

Как распределенное акустическое зондирование позволит измерять лунотрясения

ТехИнсайдер
Дух бунтарства: как Миучча Прада стала самой влиятельной женщиной в индустрии моды Дух бунтарства: как Миучча Прада стала самой влиятельной женщиной в индустрии моды

Как упрямая бунтарка создала самые успешные в индустрии моды бренды

Forbes
«Ставить дружбу выше истины»: каково это — быть настоящим другом «Ставить дружбу выше истины»: каково это — быть настоящим другом

Дружба складывается не из схожестей людей, а из моментов, в которых они разнятся

Psychologies
Валентина Талызина: «Эльдар рязанов на меня постоянно кричал на съемках «Зигзага удачи» Валентина Талызина: «Эльдар рязанов на меня постоянно кричал на съемках «Зигзага удачи»

Я попала в счастливую обойму любимых рязановских актеров

Коллекция. Караван историй
Гаджетомания: как проектируют внешний вид современных устройств Гаджетомания: как проектируют внешний вид современных устройств

Как выглядели первые телефоны, почему дизайн влияет на психологию потребителя?

Правила жизни
«Нас называли ночными ведьмами»: мемуары советских летчиц 1940-х «Нас называли ночными ведьмами»: мемуары советских летчиц 1940-х

Отрывок из мемуаров летчиц о том, как вчерашние школьницы учились летать

Forbes
Море без границ Море без границ

Bering Yachts разработала проект моторной суперъяхты Bering B165

Y Magazine
Следите за рукой Следите за рукой

Завораживающий сюрреализм: история офтальмолога, ставшего модным художником

RR Люкс.Личности.Бизнес.
Во имя отца, сына и святого лука: все о непростых отношениях моды и христианства Во имя отца, сына и святого лука: все о непростых отношениях моды и христианства

Вспоминаем самые яркие союзы моды и церкви, заключенные на небесах

Правила жизни
Родиной баобабов назвали Мадагаскар Родиной баобабов назвали Мадагаскар

Общий предок баобабов появился на Мадагаскаре 41,1 миллиона лет назад

N+1
Книжные клубы знаменитостей: что читают и рекомендуют Эмма Уотсон, Риз Уизерспун и Сара Джессика Паркер Книжные клубы знаменитостей: что читают и рекомендуют Эмма Уотсон, Риз Уизерспун и Сара Джессика Паркер

Книжные клубы актрис, певиц и телеведущих и их рекомендации

СНОБ
Верю – не верю Верю – не верю

7 мифов о вине, которые раздражают истинных ценителей популярного напитка

Лиза
Почему концепции критической интернет-инфраструктуры нет места в будущем Почему концепции критической интернет-инфраструктуры нет места в будущем

Куда сместился ландшафт рисков, чего может стоить перерезанный кабель?

Forbes
Литературные персонажи, которые бесят всех до чертиков Литературные персонажи, которые бесят всех до чертиков

11 примеров, когда герой книги раздражает настолько, что хочется бросить чтение

Maxim
Новое увлечение у подростков: что такое фурри Новое увлечение у подростков: что такое фурри

Почему подростки интересуются культурой фурри?

Psychologies
От моря до облака От моря до облака

Как работают подводные кабели и чем грозит их повреждение

РБК
Хвостатый рейс: в США открыли авиакомпанию премиум-класса для собак Хвостатый рейс: в США открыли авиакомпанию премиум-класса для собак

В этой авиакомпании все для... собак

ТехИнсайдер
Как вежливо отказать человеку? Узнайте простые советы, чтобы никого не обидеть! Как вежливо отказать человеку? Узнайте простые советы, чтобы никого не обидеть!

Как и любой новый навык, умение говорить «нет» требует практики

ТехИнсайдер
Осторожно, у вас гений. Как помочь ребенку, опережающему в развитии Осторожно, у вас гений. Как помочь ребенку, опережающему в развитии

Как воспитывать ребенка, если он вундеркинд?

СНОБ
Из светских салонов — в политику: как женщины решали социальные проблемы в XIX веке Из светских салонов — в политику: как женщины решали социальные проблемы в XIX веке

Как идеи, родившиеся в светском салоне, превратились в социальный эксперимент

Forbes
«Покуда я тебя не убью»: реальная история медсестры, которая три года жила с маньяком «Покуда я тебя не убью»: реальная история медсестры, которая три года жила с маньяком

«Покуда я тебя не убью» — британский мини-сериал в жанре тру-крайм

Forbes
3 причины, по которым ваш телефон становится медленнее, и как это исправить 3 причины, по которым ваш телефон становится медленнее, и как это исправить

Что именно приводит к замедлению работы телефона и как это исправить?

ТехИнсайдер
Как открыть карту в Казахстане в 2024 году Как открыть карту в Казахстане в 2024 году

Как оформить банковскую карту Казахстана и в каком банке это сделать проще всего

VC.RU
Смена образа Смена образа

TLC-диета — один из самых простых и гуманных способов похудеть

Лиза
РФ в БРИКС: «Мы нацелены на плотную работу с партнерами» РФ в БРИКС: «Мы нацелены на плотную работу с партнерами»

Ключевые аспекты работы БРИКС и участие РФ в этом объединении

ФедералПресс
Открыть в приложении