Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

HDD и SSD накопители — в чем разница и стоит ли переплачивать? HDD и SSD накопители — в чем разница и стоит ли переплачивать?

HDD и SSD: надежный винтаж против скорости света и цены космоса

ТехИнсайдер
Лайфхак на лето! Вот как фрукты помогают избегать обезвоживания: простой совет Лайфхак на лето! Вот как фрукты помогают избегать обезвоживания: простой совет

Как фрукты и овощи могут удовлетворить потребность в жидкости

ТехИнсайдер
Komatsu показала лунный экскаватор и подводный бульдозер Komatsu показала лунный экскаватор и подводный бульдозер

Подводный электрический робобульдозер и макет лунного беспилотного экскаватора

N+1
Чем накормить гения Чем накормить гения

Как помочь нашим детям хорошо сдать экзамены?

Лиза
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
Сказки для взрослых. Мариана Павлюкевич — об искусстве создания маркетинговых арт-проектов Сказки для взрослых. Мариана Павлюкевич — об искусстве создания маркетинговых арт-проектов

Мариана Павлюкевич о том, зачем брендам культурный код, эмоции и ДНК

СНОБ
Мексиканский кинорежиссер Мишель Франко: За каждой секундой на экране должно стоять художественное решение Мексиканский кинорежиссер Мишель Франко: За каждой секундой на экране должно стоять художественное решение

Режиссер Мишель Франко — о съемке драматичных историй и надежде на лучшее

СНОБ
Почему мы любим делать несколько дел сразу: пример «обеда за просмотром кино» Почему мы любим делать несколько дел сразу: пример «обеда за просмотром кино»

Есть, отвлекаясь на сериал, — один из самых простых способов переесть

ТехИнсайдер
«Как я приняла свою негативно настроенную мать»: 6 уроков «Как я приняла свою негативно настроенную мать»: 6 уроков

Как научиться быть счастливой, несмотря на негатив, исходящий от близких?

Psychologies
Вредно ли сидеть, положив ногу на ногу Вредно ли сидеть, положив ногу на ногу

Как вы обычно сидите в офисе? А за обеденным столом? В автобусе?

ТехИнсайдер
Главные причины бытового пожара: эксперт назвал предметы, которые чаще всего загораются в квартирах Главные причины бытового пожара: эксперт назвал предметы, которые чаще всего загораются в квартирах

Какие устройства считаются самыми пожароопасными в доме и как обезопасить себя?

ТехИнсайдер
«Ставить дружбу выше истины»: каково это — быть настоящим другом «Ставить дружбу выше истины»: каково это — быть настоящим другом

Дружба складывается не из схожестей людей, а из моментов, в которых они разнятся

Psychologies
Почему у некоторых собак хвост колечком? Зачем вообще собакам хвост? Почему у некоторых собак хвост колечком? Зачем вообще собакам хвост?

Почему природа для каждого бобика придумала разные хвосты?

ТехИнсайдер
РФ в БРИКС: «Мы нацелены на плотную работу с партнерами» РФ в БРИКС: «Мы нацелены на плотную работу с партнерами»

Ключевые аспекты работы БРИКС и участие РФ в этом объединении

ФедералПресс
Мифы о вине, которые мешают нам получать от него удовольствие Мифы о вине, которые мешают нам получать от него удовольствие

Собрали здесь все, что вы по привычке могли бы сделать с качественным алкоголем

Maxim
Человек с большой цифры Человек с большой цифры

Как технологии лишают нас сна, памяти, эмпатии и отучают знакомиться

Men Today
Золотая комната Золотая комната

К дикому племени спускается сияющий человек в скафандре и протягивает к ним руку

Знание – сила
Посол Советского Союза Посол Советского Союза

В истории были женщины, которые волею судьбы играли роль посла

Знание – сила
Грязные дела: как правильно выбрать буксировочный трос в машину Грязные дела: как правильно выбрать буксировочный трос в машину

Плюсы и минусы разных видов буксировочных тросов

ТехИнсайдер
Стиль твоей удачи Стиль твоей удачи

Минимализм или классика: самый подходящий интерьер для твоего знака зодиака

Лиза
Можно ли есть черные бананы? Вы поразитесь ответу западных экспертов! Интересные факты Можно ли есть черные бананы? Вы поразитесь ответу западных экспертов! Интересные факты

Cтоит ли употреблять почерневшие бананы или безопаснее выбросить их в ведро

ТехИнсайдер
Не вступать в старость без любви: почему возраст пугает и как научиться его принимать Не вступать в старость без любви: почему возраст пугает и как научиться его принимать

Глава из книги «Возраст: Инструкция по применению»

Forbes
Дмитрий Леонтьев: BAIC X75 – машина для удовольствия Дмитрий Леонтьев: BAIC X75 – машина для удовольствия

Кроссовер BAIC X75 – тихое наслаждение

4x4 Club
Они еще и разговаривают. У кашалотов есть язык, и его можно расшифровать Они еще и разговаривают. У кашалотов есть язык, и его можно расшифровать

Коды, орнаментации и рубато — как выглядит язык кашалотов?

СНОБ
Предложил, но не женится: что такое shut up ring и как этим пользуются мужчины Предложил, но не женится: что такое shut up ring и как этим пользуются мужчины

Что такое феномен shut up ring и как это влияет на отношения

Psychologies
Дьявол в деталях Дьявол в деталях

Языком моды Михаил Булгаков владел не менее виртуозно, чем литературным

Men Today
Олимпийские инновации 24-26-28 Олимпийские инновации 24-26-28

Какие новые виды спорта мы увидим на Играх в 2024–2028 годах, чем они интересны?

ТехИнсайдер
Защити свою энергию Защити свою энергию

Как распознать энергетических вампиров среди своего окружения

Лиза
Ключ к гармонии: 4 потребности и как их закрыть Ключ к гармонии: 4 потребности и как их закрыть

Как потребности более высокого уровня влияют на нашу жизнь?

Psychologies
Выйти из тени: как спортсмены работают над личными брендами Выйти из тени: как спортсмены работают над личными брендами

Как найти себя и стать успешным за пределами арен и тренировочных полей

Forbes
Открыть в приложении