Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Правда ли, что горячие напитки ведут к раку? Правда ли, что горячие напитки ведут к раку?

Существует ли связь между горячими напитками и раком пищевода?

ТехИнсайдер
Между Оруэллом и Хаксли: 10 отличных сериалов-антиутопий Между Оруэллом и Хаксли: 10 отличных сериалов-антиутопий

Сериалы-антиутопии: от инкубаторов для детей до религиозных конфликтов

Правила жизни
Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами

ИИ — спаситель человечества или его зловещий повелитель?

Forbes
Ребёнок здесь я Ребёнок здесь я

Взрослые дети, инфантильные родители

Новый очаг
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Восстанавливаем водный баланс: как заставить себя пить больше воды Восстанавливаем водный баланс: как заставить себя пить больше воды

Что делать, если пить 8 стаканов в день не получается?

ТехИнсайдер
Муж-садист: какими были отношения Салтанат Нукеновой с Куандыком Бишимбаевым Муж-садист: какими были отношения Салтанат Нукеновой с Куандыком Бишимбаевым

Дело Салтанат: почему жертва домашнего насилия так и не ушла от мужа?

Psychologies
Психологические травмы: чем они могут быть полезны — беседа с психотерапевтом Психологические травмы: чем они могут быть полезны — беседа с психотерапевтом

Что такое травма? Чем она опасна как для нас, так и для окружающих?

Psychologies
«Не слишком ли много мы думаем?»: как правильно потреблять и перерабатывать информацию «Не слишком ли много мы думаем?»: как правильно потреблять и перерабатывать информацию

Похоже, мозг не справляется с тем валом информации, который обрушивается на нас

Psychologies
Мать русского футуризма. Как жил и писал поэт-авиатор Василий Каменский Мать русского футуризма. Как жил и писал поэт-авиатор Василий Каменский

Как поэт Василий Каменский стал одним из первых русских авиаторов

СНОБ
Почтальон нашел недоставленные письма солдата времен Второй мировой! Вот что он сделал с ними Почтальон нашел недоставленные письма солдата времен Второй мировой! Вот что он сделал с ними

Как почтальон нашел семью погибшего солдата Второй мировой

ТехИнсайдер
Впервые за пять лет в топ-50 самых высокооплачиваемых спортсменов мира нет женщин Впервые за пять лет в топ-50 самых высокооплачиваемых спортсменов мира нет женщин

Пока в топ самых высокооплачиваемых спортсменов мира не попала ни одна женщина

Forbes
«Конвейером нас не испугать!» Как братья Додж утерли нос Генри Форду «Конвейером нас не испугать!» Как братья Додж утерли нос Генри Форду

Почему Генри Форд боялся братьев Додж?

ТехИнсайдер
Какие популярные игры были запрещены в разных странах Какие популярные игры были запрещены в разных странах

Собрали 8 известных игр, которые были запрещены в ряде стран

Maxim
Пэтфуд как бизнес Пэтфуд как бизнес

Как идет импортозамещение на рынке кормов для непродуктивных домашних животных

Агроинвестор
«Любуйтесь, мамаша, вот он, ребенок ваш»: как женщины переживают акушерское насилие «Любуйтесь, мамаша, вот он, ребенок ваш»: как женщины переживают акушерское насилие

Книга казахской писательницы Алтынай Султан об опыте беременности

Forbes
«Мегалополис»: что Фрэнсис Форд Коппола думает о Римской империи и будущем Америки «Мегалополис»: что Фрэнсис Форд Коппола думает о Римской империи и будущем Америки

«Мегалополис»: каким получился новый фильм классика кинематографа

Forbes
Мать и дитя: что делать, если твоя мама начала вести себя, как ребенок Мать и дитя: что делать, если твоя мама начала вести себя, как ребенок

Почему может произойти смена ролей в семье?

VOICE
Невеста на вырост: как в Китае похищают девочек, чтобы выдавать их замуж Невеста на вырост: как в Китае похищают девочек, чтобы выдавать их замуж

Что происходит с продажей женщин в Китае и как женщины борются за свободу?

Forbes
Спасите наши души: как появился международный сигнал бедствия SOS Спасите наши души: как появился международный сигнал бедствия SOS

SOS: почему было выбрано такое сочетание букв и как оно стало международным?

ТехИнсайдер
Расстрел с конфискацией Расстрел с конфискацией

Как в СССР появились статьи об измене родине

Дилетант
4 типа детского темперамента 4 типа детского темперамента

Четыре типа детского темперамента и четыре подхода к общению с детьми

Psychologies
Порочная прибыль Порочная прибыль

Как экономика Макао стала самой быстрорастущей в мире

Деньги
«Великий мертвец» «Великий мертвец»

Неужели шекспировские пьесы сочинил «великий мертвец» — Кристофер Марло?

Знание – сила
Почему в автомобиле всегда так хочется вздремнуть Почему в автомобиле всегда так хочется вздремнуть

Почему поездка в автомобиле так убаюкивает?

Maxim
«Умоляющие» глаза собак появились не для нас. Они есть у диких пород «Умоляющие» глаза собак появились не для нас. Они есть у диких пород

Собаки пользуются мимикой не только с человеком, но и для общения друг с другом

ТехИнсайдер
Оценка проекта «Центры местного сообщества» с использованием глобального стандарта B4SI Оценка проекта «Центры местного сообщества» с использованием глобального стандарта B4SI

Магазины являются центром пересечения повседневных маршрутов самых разных людей

Позитивные изменения
Крестоносец за решёткой Крестоносец за решёткой

Роберт Нормандский — один из первых политических узников Средневековья

Дилетант
«Догони цыпленка», неприличный этаж и битва с трамваями: удивительные и смешные факты о конке «Догони цыпленка», неприличный этаж и битва с трамваями: удивительные и смешные факты о конке

Работа конки на самом деле была полна неуклюжих и комичных моментов

ТехИнсайдер
5 «вредных» напитков, которые полезны для здоровья 5 «вредных» напитков, которые полезны для здоровья

Соки, кофе и какао — чем полезны эти «вредные» напитки?

ТехИнсайдер
Открыть в приложении