Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тайна самых древних галактик остается неразрешимой Тайна самых древних галактик остается неразрешимой

Джеймс Уэбб он столкнулся с тайной, которую не удается разрешить до сих пор

ТехИнсайдер
В зоне особого внимания В зоне особого внимания

Зональная диета: что это за система питания и как она работает?

Лиза
Как сделать удаленный рабочий стол и какой софт для этого использовать Как сделать удаленный рабочий стол и какой софт для этого использовать

Как сделать подключение к удаленному рабочему столу под управлением Windows

CHIP
Цена прохлады: как выбрать кондиционер для дома Цена прохлады: как выбрать кондиционер для дома

На что обратить внимание при выборе кондиционера?

CHIP
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Максимальное уважение: почему японцы вместо рукопожатий предпочитают поклоны? Максимальное уважение: почему японцы вместо рукопожатий предпочитают поклоны?

Почему японцы так трепетно относятся к одзиги, поклонам?

ТехИнсайдер
8 вещей, которые надо сделать на кухне перед тем, как ты уедешь в отпуск 8 вещей, которые надо сделать на кухне перед тем, как ты уедешь в отпуск

Подготовительная работа на кухне перед отпуском: что нужно учесть?

VOICE
Евгений Сидихин: «Мне захотелось самому лететь...» Евгений Сидихин: «Мне захотелось самому лететь...»

Часто думаю, что то, чем я занимаюсь, не моя профессия

Коллекция. Караван историй
Борьба с течением: как за рубежом регулируют сферу кибербезопасности Борьба с течением: как за рубежом регулируют сферу кибербезопасности

Опыт стран, которые работают с утечками данных на системном уровне

Forbes
«Майор Гром: Игра слов»: эксклюзивный отрывок на MAXIM «Майор Гром: Игра слов»: эксклюзивный отрывок на MAXIM

Глава из книги «Майор Гром: Игра слов», в которой Игорь и Юля разгадывают тайну

Maxim
Как навсегда избавиться от запаха в посудомоечной машине: советы профессиональных клинеров Как навсегда избавиться от запаха в посудомоечной машине: советы профессиональных клинеров

Что делать, чтобы в посудомоечной машине не появлялся неприятный запах?

VOICE
Как увеличить шрифт на iPhone и еще несколько полезных фишек, о которых вы могли даже не слышать Как увеличить шрифт на iPhone и еще несколько полезных фишек, о которых вы могли даже не слышать

Если покопаться в настройках своего телефона, можно найти много полезных опций

ТехИнсайдер
Стареет ли тормозная жидкость – и как понять, что ее пора менять Стареет ли тормозная жидкость – и как понять, что ее пора менять

В чем недостатки старой тормозной жидкости?

ТехИнсайдер
Сексуальный паразитизм сделал удильщиков самыми разнообразными глубоководными рыбами Сексуальный паразитизм сделал удильщиков самыми разнообразными глубоководными рыбами

Как удильщики стали самой разнообразной группой позвоночных в батипелагиали

N+1
Медицинский случай: у очень редких «близнецов-пауков» три ноги, четыре руки и один пенис Медицинский случай: у очень редких «близнецов-пауков» три ноги, четыре руки и один пенис

Сиамские близнецы в Индонезии родились сросшимися, как «паук»

ТехИнсайдер
Мнимый безумец Мнимый безумец

Томмазо Кампанелла — монах, философ, мятежник, король мира, поэт и маг

Дилетант
Что такое «воздушный протеин»: еда будущего Что такое «воздушный протеин»: еда будущего

Что такое Solein? И почему его называют «воздушным протеином»?

ТехИнсайдер
Семь советов родителям Семь советов родителям

Как приучить ребёнка к правильному питанию, чтобы он получал всё необходимое?

Здоровье
Секрет приложения Finch: как уход за виртуальным питомцем помогает справиться с депрессией Секрет приложения Finch: как уход за виртуальным питомцем помогает справиться с депрессией

В России набирает популярность приложение Finch. Почему оно столь эффективно?

Psychologies
Куратор выставки в «Доме на Хлебном» Геолина Моргулис — о Фрейде и гибридной галерее Куратор выставки в «Доме на Хлебном» Геолина Моргулис — о Фрейде и гибридной галерее

Геолина Моргулис: как перекликаются философия и искусство

СНОБ
«Робею перед такими сочными красками»: почему мы боимся яркого макияжа «Робею перед такими сочными красками»: почему мы боимся яркого макияжа

Почему девушки порой стесняются даже красной помады?

Psychologies
Кошмар владельца: самые сложные автомобили всех времен и народов Кошмар владельца: самые сложные автомобили всех времен и народов

Приобретя эти машины, вы можете очень сильно пожалеть

Maxim
Туда, где есть всё Туда, где есть всё

Греция и Хорватия — преимущества и особенности этих направлений для плаваний

Y Magazine
10 автомобилей с самыми красивыми попами 10 автомобилей с самыми красивыми попами

За красивую попу автомобиля дизайнерам можно простить и некоторые оплошности

Maxim
Как добиться повышения на работе? Ни в коем случае не совершайте эти ошибки Как добиться повышения на работе? Ни в коем случае не совершайте эти ошибки

Как же показать себя во всей красе и добиться признания начальства?

ТехИнсайдер
Каким был один из предков позвоночных. Отрывок из книги палеонтолога Каким был один из предков позвоночных. Отрывок из книги палеонтолога

Глава из книги «Как живые» об исчезнувших живых организмах

СНОБ
Вот и сказочке конец: как Винни-Пух стал серийным убийцей Вот и сказочке конец: как Винни-Пух стал серийным убийцей

Почему сказки становятся кровавыми хоррорами?

СНОБ
Вы поразитесь! У кашалотов есть сложный «фонетический алфавит»: видео Вы поразитесь! У кашалотов есть сложный «фонетический алфавит»: видео

Ученые обнаружили «строительные блоки языка китов»

ТехИнсайдер
Ребенок за штурвалом: страшная катастрофа Airbus A310 авиакомпании «Аэрофлот», которая унесла жизни 75 человек Ребенок за штурвалом: страшная катастрофа Airbus A310 авиакомпании «Аэрофлот», которая унесла жизни 75 человек

Эта авивкатастрофа заняла первое место в рейтинге «самых нелепых»

ТехИнсайдер
Каменные плитки из затопленного памятника эпох мезолита и неолита оказались функциональными орудиями Каменные плитки из затопленного памятника эпох мезолита и неолита оказались функциональными орудиями

Ученые исследовали 11 каменных плиток, обнаруженных на затопленном памятнике

N+1
Открыть в приложении