Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Потрясно: что такое турбулентность и почему ее не надо бояться Потрясно: что такое турбулентность и почему ее не надо бояться

Рассказываем, что такое турбулентность и почему ее совершенно не стоит бояться

ТехИнсайдер
Так держать! Так держать!

Способы исправления осанки, которые на самом деле только вредят спине

Лиза
Обновления нарочно ломают наши телефоны и еще 9 мифов о гаджетах Обновления нарочно ломают наши телефоны и еще 9 мифов о гаджетах

10 самых распространенных мифов об электронных устройствах

Maxim
Как избавиться от платяной моли: рекомендации профессиональных клинеров Как избавиться от платяной моли: рекомендации профессиональных клинеров

Рассказываем, какие существуют способы борьбы с платяной молью!

VOICE
7 законов психологии, которые изменят твою жизнь: что о них нужно знать и как ими пользоваться 7 законов психологии, которые изменят твою жизнь: что о них нужно знать и как ими пользоваться

Что такое законы психологии и как правильно их применять

VOICE
«Все хорошее заканчивается»: 3 неожиданных плюса этой мысли «Все хорошее заканчивается»: 3 неожиданных плюса этой мысли

Зачем думать о том, что хорошее рано или поздно закончится

Psychologies
От городской усадьбы на Таганской до церкви в Медведкове. Прогулка по местам Константина Коровина От городской усадьбы на Таганской до церкви в Медведкове. Прогулка по местам Константина Коровина

Пешеходный маршрут, связанный с русским импрессионистом Константином Коровиным

СНОБ
«Красные гиганты»: как баскетбол становился частью советской культуры и спорта «Красные гиганты»: как баскетбол становился частью советской культуры и спорта

Отрывок из книги «Красные гиганты. История советского баскетбола»

Forbes
«Как я приняла свою негативно настроенную мать»: 6 уроков «Как я приняла свою негативно настроенную мать»: 6 уроков

Как научиться быть счастливой, несмотря на негатив, исходящий от близких?

Psychologies
Закодировать от злого умысла: как криптография защитит от мошенничества Закодировать от злого умысла: как криптография защитит от мошенничества

Как справиться с мошенничеством?

Forbes
Как сон смягчает наши страдания, почему он в этом незаменим Как сон смягчает наши страдания, почему он в этом незаменим

Почему хороший ночной сон является идеальным средством от эмоционального стресса

ТехИнсайдер
11 подсказок для общения с пожилыми родителями 11 подсказок для общения с пожилыми родителями

Как выстроить отношения взрослым детям со взрослыми родителями?

Psychologies
Краса всей зелени известной Краса всей зелени известной

Спаржа лекарственная ведёт своё происхождение с берегов Средиземного моря

Наука и жизнь
Как выбрать хороший бинокль и не прогадать Как выбрать хороший бинокль и не прогадать

На что обращать внимание при выборе хорошего бинокля?

CHIP
«По закону они просто вещи»: кто и как в России спасает животных во время катастроф «По закону они просто вещи»: кто и как в России спасает животных во время катастроф

Как фонды и волонтеры вызволяют питомцев, оставленных в зоне затопления

Forbes
8 грубейших ошибок во время глажки белья, которые допускают все без исключения: узнайте, что портит ваши вещи 8 грубейших ошибок во время глажки белья, которые допускают все без исключения: узнайте, что портит ваши вещи

Как не стоит гладить белье, если вы не хотите испортить ткань и свое настроение

ТехИнсайдер
Почему мы любим делать несколько дел сразу: пример «обеда за просмотром кино» Почему мы любим делать несколько дел сразу: пример «обеда за просмотром кино»

Есть, отвлекаясь на сериал, — один из самых простых способов переесть

ТехИнсайдер
50 000 подносов и рязанская Венеция: кто и как возрождает народные промыслы 50 000 подносов и рязанская Венеция: кто и как возрождает народные промыслы

Кто развивает традиционные промыслы и как пытается на этом заработать

Forbes
Общее число зверя Общее число зверя

Как народ разом теряет человеческий облик

Weekend
Одному боту известно: как простейший софт помогает абитуриентам поступить Одному боту известно: как простейший софт помогает абитуриентам поступить

Как талантливые абитуриенты перегружают отечественные вузы летом?

Forbes
Кто такой абьюзер и что такое абьюз? 6 правил общения с таким человеком Кто такой абьюзер и что такое абьюз? 6 правил общения с таким человеком

Как абьюзер проявляется в вас и есть ли абьюзер рядом с вами?

Psychologies
3 женские ошибки, которые могут разрушить отношения 3 женские ошибки, которые могут разрушить отношения

Почему сохранить отношения удается далеко не всем женщинам?

Psychologies
Древние ДНК раскрывают тайны исчезнувшего Аварского каганата Древние ДНК раскрывают тайны исчезнувшего Аварского каганата

Что древние ДНК могут рассказать о жизни и обычаях аваров?

ТехИнсайдер
Символ эпохи: как Одри Хепберн меняла Голливуд и боролась с несправедливостью Символ эпохи: как Одри Хепберн меняла Голливуд и боролась с несправедливостью

Как Одри Хепберн пыталась изменить мир к лучшему?

Forbes
«Конвейером нас не испугать!» Как братья Додж утерли нос Генри Форду «Конвейером нас не испугать!» Как братья Додж утерли нос Генри Форду

Почему Генри Форд боялся братьев Додж?

ТехИнсайдер
Жизнь продолжается Жизнь продолжается

Azimut Fly 72 — авангардная моторная яхта от итальянского бренда

Y Magazine
Пасхальная оология Пасхальная оология

Красим яйца вместе с птицами

N+1
Возможно ли отбелить зубы в домашних условиях? Узнайте простое объяснение экспертов! Возможно ли отбелить зубы в домашних условиях? Узнайте простое объяснение экспертов!

Могут ли помочь средства для домашнего отбеливания зубов?

ТехИнсайдер
Что делать, если укусил клещ? Что делать, если укусил клещ?

Как вытащить клеща? Какие болезни переносят клещи?

Psychologies
Зигмунд Фрейд: что посмотреть, чтобы узнать больше о знаменитом психоаналитике Зигмунд Фрейд: что посмотреть, чтобы узнать больше о знаменитом психоаналитике

Фильмы, которые по-новому расскажут о личности Зигмунда Фрейда

Psychologies
Открыть в приложении