Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Докторская» колбаса и зеленка: вещи, придуманные в СССР, которыми мы пользуемся до сих пор «Докторская» колбаса и зеленка: вещи, придуманные в СССР, которыми мы пользуемся до сих пор

Наработки из СССР, над которыми время оказалось не властно

ТехИнсайдер
Ольга Пескова: «Человечеству не нужно бояться альтернативной реальности» Ольга Пескова: «Человечеству не нужно бояться альтернативной реальности»

Как не раствориться в цифровом мире и сохранить свою человеческую идентичность?

РБК
Повелитель беспроводных наушников, умных часов и музыки в машине: кто придумал Bluetooth Повелитель беспроводных наушников, умных часов и музыки в машине: кто придумал Bluetooth

Как четыре сотрудника Intel, которым надоели розетки, придумали Bluetooth

ТехИнсайдер
Мексиканский кинорежиссер Мишель Франко: За каждой секундой на экране должно стоять художественное решение Мексиканский кинорежиссер Мишель Франко: За каждой секундой на экране должно стоять художественное решение

Режиссер Мишель Франко — о съемке драматичных историй и надежде на лучшее

СНОБ
10 фактов про современную Монголию, которые мало кто знает 10 фактов про современную Монголию, которые мало кто знает

Монголия: самая холодная столица, самое большое производство кашемира

Maxim
«Муж выбирает блюда на моем сайте, а я их готовлю»: девушка поделилась лайфхаком, как упростить совместный быт «Муж выбирает блюда на моем сайте, а я их готовлю»: девушка поделилась лайфхаком, как упростить совместный быт

Поможет обустроить совместный быт: несколько советов и интересный лайфхак

Psychologies
Как защитить от дождя натуральную велосумку: простой лайфхак от туристов 19 века Как защитить от дождя натуральную велосумку: простой лайфхак от туристов 19 века

Как справиться с тем, что натуральные ткани промокают и боятся плесени

ТехИнсайдер
Почтальон нашел недоставленные письма солдата времен Второй мировой! Вот что он сделал с ними Почтальон нашел недоставленные письма солдата времен Второй мировой! Вот что он сделал с ними

Как почтальон нашел семью погибшего солдата Второй мировой

ТехИнсайдер
Будьте аккуратнее! Эксперты: дисбаланс двух жиров омега-3 влияет на риск ранней смерти Будьте аккуратнее! Эксперты: дисбаланс двух жиров омега-3 влияет на риск ранней смерти

Почему особенно омега-3 жиры стоит добавить в рацион питания

ТехИнсайдер
Ехать ли в Магадан Ехать ли в Магадан

Несколько очень красивых и интересных маршрутов по акватории Магадана

Y Magazine
Российский турист побывал в КНДР и рассказал о 5 странностях, которые повергли его в шок Российский турист побывал в КНДР и рассказал о 5 странностях, которые повергли его в шок

Что вас точно удивит в Северной Корее

Maxim
Сила граната: природное соединение в его составе может помочь в лечении болезни Альцгеймера Сила граната: природное соединение в его составе может помочь в лечении болезни Альцгеймера

Гранат может улучшить память и сделать лечение болезни Альцгеймера эффективнее

ТехИнсайдер
На ее книгах вырос Стивен Кинг: как Ширли Джексон превращала свои страхи в литературу На ее книгах вырос Стивен Кинг: как Ширли Джексон превращала свои страхи в литературу

История писательницы, на романах которой вырос Стивен Кинг

Forbes
Как сделать занятия бегом эффективнее с помощью смарт-часов Как сделать занятия бегом эффективнее с помощью смарт-часов

Как смарт-часы могут повысить вашу мотивацию в занятиях бегом?

CHIP
Как сделать сайт бесплатно: без программистов и дизайнеров Как сделать сайт бесплатно: без программистов и дизайнеров

Как сделать сайт бесплатно, даже если у вас нет никаких навыков в кодинге

CHIP
«Наша задача — не кости с места на место перенести, а достойно похоронить в братской могиле». Как в Московской области ищут останки пропавших без вести солдат «Наша задача — не кости с места на место перенести, а достойно похоронить в братской могиле». Как в Московской области ищут останки пропавших без вести солдат

Как поиск солдат из мальчишеского увлечения превратился в серьезную миссию

СНОБ
60% считают, что повседневные хлопоты могут помочь поддерживать себя в форме 60% считают, что повседневные хлопоты могут помочь поддерживать себя в форме

Можно ли выполнять норму физических упражнений, не ходя в зал?

ТехИнсайдер
Почему астрология — лженаука: ученый опроверг утверждения о знаках зодиака и их влиянии на судьбу человека Почему астрология — лженаука: ученый опроверг утверждения о знаках зодиака и их влиянии на судьбу человека

Положение небесных тел в момент рождения человека не влияет на его судьбу

ТехИнсайдер
Крошки мои: зачем нужна текстурирующая пудра для волос? Крошки мои: зачем нужна текстурирующая пудра для волос?

Пудра для волос: придание объема, небрежная укладка или эффект сухого шампуня

Правила жизни
Зеркальце, перышко и пучок льна: как на Руси без врачей определяли наступление смерти Зеркальце, перышко и пучок льна: как на Руси без врачей определяли наступление смерти

Как и кто на Руси констатировал смерть в момент её наступления?

ТехИнсайдер
Улыбка без боли: как избавиться от заедов — рекомендации врача Улыбка без боли: как избавиться от заедов — рекомендации врача

Почему появляются заеды и как от них избавиться?

Psychologies
Ёкарный бабай, курва и зюзя: что означают эти бранные слова и откуда они взялись Ёкарный бабай, курва и зюзя: что означают эти бранные слова и откуда они взялись

Что такое обсценная лексика?

ТехИнсайдер
От рака, диабета и болезней сердца: ученые назвали три специи, которые должны быть на каждой кухне От рака, диабета и болезней сердца: ученые назвали три специи, которые должны быть на каждой кухне

Эти три специи принесут колоссальную пользу вашему организму

ТехИнсайдер
Мнимый безумец Мнимый безумец

Томмазо Кампанелла — монах, философ, мятежник, король мира, поэт и маг

Дилетант
Василина Дрогичинская: «Цифровая доступность IT-продуктов становится общемировым трендом» Василина Дрогичинская: «Цифровая доступность IT-продуктов становится общемировым трендом»

Что такое «цифровая доступность» и как IT-сервисы делают удобными для всех

РБК
Всё что вам нужно знать об обновлённом Skoda Kodiaq Всё что вам нужно знать об обновлённом Skoda Kodiaq

Что изменилось в новом поколении Skoda Kodiaq?

4x4 Club
Сложно перестать критиковать себя? Вот что советуют психологи: облегчите жизнь! Сложно перестать критиковать себя? Вот что советуют психологи: облегчите жизнь!

Что нужно знать, если вы все же решились преодолеть внутреннего критика!

ТехИнсайдер
«Ищу мужа с шанхайской пропиской»: как работают китайские брачные рынки «Ищу мужа с шанхайской пропиской»: как работают китайские брачные рынки

Отношения в Китае: стихийные брачные рынки под открытым небом и феминизм

Forbes
На гравировке из Италии опознали последнего пещерного льва Европы На гравировке из Италии опознали последнего пещерного льва Европы

Археологи исследовали кусок известняка с гравировками из пещеры Романелли

N+1
Невозможный человек! Невозможный человек!

7 советских актеров, чей характер оказался слишком тяжелым в работе

Лиза
Открыть в приложении