Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как работает интеркулер: 4 вещи, которые надо знать каждому водителю Как работает интеркулер: 4 вещи, которые надо знать каждому водителю

Интеркулер: что это такое и зачем он нужен в автомобиле?

ТехИнсайдер
6 признаков того, что в вашем рационе слишком много соли 6 признаков того, что в вашем рационе слишком много соли

Определить, что вы едите слишком много соли, можно по нескольким признакам

ТехИнсайдер
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
10 цитат Альфрида Лэнгле, которые вернут вашей жизни смысл 10 цитат Альфрида Лэнгле, которые вернут вашей жизни смысл

Несколько цитат известного психолога, которые помогут вернуть смысл жизни

Psychologies
«Поел морковки и пожелтел»: какие витамины нам не нужны «Поел морковки и пожелтел»: какие витамины нам не нужны

Какими рисками чревато расхожее «попей витаминчиков», откуда взялась эта мода?

РБК
По капле воды: как с помощью философии кайдзен мгновенно снизить уровень стресса По капле воды: как с помощью философии кайдзен мгновенно снизить уровень стресса

Глава из книги «Путешествие на восходе солнца» о японской философии кайдзен

Forbes
Храп Храп

Как говорят специалисты, «звуковой феномен» храпа не является  болезнью

Здоровье
Москва по-собянински: азиатский город с архитектурными доминантами и фасадами Москва по-собянински: азиатский город с архитектурными доминантами и фасадами

Какую Москву хочет построить Сергей Собянин?

Монокль
Путь таракана: как печально известный паразит завоевал мир Путь таракана: как печально известный паразит завоевал мир

Откуда таракан распространился по всему миру?

ТехИнсайдер
Жизнь нулей и единиц. Анимационный детектив в жанре научной фантастики «Марс Экспресс» Жизнь нулей и единиц. Анимационный детектив в жанре научной фантастики «Марс Экспресс»

Как «Марс Экспресс» отражает современные страхи человечества о революции ИИ

СНОБ
Артемов Андрей Артемов Андрей

Стилист Андрей Артемов — о концептуальном ремесле и вычеркнутых надеждах

Собака.ru
Мощный и быстрый «Буревестник»: как устроены ядерные двигатели для ракет Мощный и быстрый «Буревестник»: как устроены ядерные двигатели для ракет

Как работает ракета «Буревестник» с ядерным воздушно-реактивным двигателем?

ТехИнсайдер
Нерадужное будущее: 5 сериалов-антиутопий, правдоподобно показывающих возможные сценарии для человечества Нерадужное будущее: 5 сериалов-антиутопий, правдоподобно показывающих возможные сценарии для человечества

Рассказываем о самых интересных сериалах-фантазиях о ближайшем будущем

Правила жизни
OpenAI представила мультимодальную генеративную модель GPT-4o OpenAI представила мультимодальную генеративную модель GPT-4o

Компания OpenAI представила мультимодальную генеративную модель GPT-4o

N+1
Химики перепаяли коллоидный раствор циклодекстрина в нужную форму Химики перепаяли коллоидный раствор циклодекстрина в нужную форму

Как коллоидный раствор циклодекстрина ведет себя на границе раздела вода-толуол

N+1
Внутреннее ощущение «красоты» важнее, чем внешность Внутреннее ощущение «красоты» важнее, чем внешность

Намного важнее чувствовать себя хорошо, чем выглядеть хорошо

ТехИнсайдер
Ледовая жизнь Арктики Ледовая жизнь Арктики

Мало кто знает, какая разнообразная жизнь скрывается во льдах Арктики

Наука и жизнь
Себе — все, другим — ничего: почему эгоизм на самом деле полезен Себе — все, другим — ничего: почему эгоизм на самом деле полезен

Действительно ли эгоизм столь плохое качество, от которого стоит избавиться?

Psychologies
К вершине наслаждений К вершине наслаждений

Как и когда мы переживаем оргазм? И что нам мешает?

Psychologies
Где в мозге находится компас, который помогает нам не заблудиться Где в мозге находится компас, который помогает нам не заблудиться

Ученые впервые смогли определить местоположение внутреннего нейронного компаса

ТехИнсайдер
Китайский закон о сидячем образе жизни повысил физическую активность детей Китайский закон о сидячем образе жизни повысил физическую активность детей

Ученые оценили влияние закона, регулирующего время доступа детей к онлайн-играм

N+1
Пасхальная оология Пасхальная оология

Красим яйца вместе с птицами

N+1
Оценка проекта «Центры местного сообщества» с использованием глобального стандарта B4SI Оценка проекта «Центры местного сообщества» с использованием глобального стандарта B4SI

Магазины являются центром пересечения повседневных маршрутов самых разных людей

Позитивные изменения
CRISPR-терапия показала безопасность и частичный эффект при дегенерации сетчатки CRISPR-терапия показала безопасность и частичный эффект при дегенерации сетчатки

Успех клинических испытаний CRISPR-терапии наследственной дегенерации сетчатки

N+1
Найти преступника по фрагментам дерева: как природа помогает криминалистам расследовать преступления Найти преступника по фрагментам дерева: как природа помогает криминалистам расследовать преступления

Как по биологическим следам восстановить картину преступления?

ТехИнсайдер
8 неожиданных старых фильмов о Великой Отечественной и Второй мировой войне 8 неожиданных старых фильмов о Великой Отечественной и Второй мировой войне

Подборка самых необычных военных фильмов прошлых лет

Правила жизни
Японский сад, музей Барби и кладбище: гид по Краснодару Японский сад, музей Барби и кладбище: гид по Краснодару

Что смотреть в Краснодаре?

СНОБ
Царь Ирод Царь Ирод

Царь Ирод: злой гений или величайший строитель?

Знание – сила
Семь правил винного этикета Семь правил винного этикета

Каких правил стоит придерживаться, когда пьешь вино?

Maxim
Эстетика пустыни Эстетика пустыни

Современный интерьер в стиле контемпорари в Дубае

SALON-Interior
Открыть в приложении