Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Удобство превыше всего: как одеться в самолет на долгий перелет Удобство превыше всего: как одеться в самолет на долгий перелет

Что надеть в самолет, чтобы перелет не превратился в сущий ад?

ТехИнсайдер
Полина Luxury Girl: «В процессе съемок мой муж однажды чуть не получил инфаркт» Полина Luxury Girl: «В процессе съемок мой муж однажды чуть не получил инфаркт»

Полина Luxury Gir рассказывает истории про индустрию фильмов для взрослых

Maxim
«Водородная эйфория» закончилась: почему этот источник энергии не спасет планету «Водородная эйфория» закончилась: почему этот источник энергии не спасет планету

Почему «водородная энергия» оказалась лишь иллюзией?

Forbes
Для кого звонит рассветный колокол новой деревни? Для кого звонит рассветный колокол новой деревни?

Факторы эффективности проектов развития территорий на примере движения Сэмаыль

Позитивные изменения
Как психологическое состояние влияет на сексуальную жизнь Как психологическое состояние влияет на сексуальную жизнь

Половая жизнь — это не только физиология, но и сложный эмоциональный процесс

Правила жизни
Вопреки санкциям: почему акции золотодобытчиков дорожают вслед за золотом Вопреки санкциям: почему акции золотодобытчиков дорожают вслед за золотом

Акции российских золотодобытчиков подорожали вслед за ростом мировых цен

Forbes
Серверный ветер: как производительные вычислительные решения меняют лицо рынка Серверный ветер: как производительные вычислительные решения меняют лицо рынка

Как устроен рынок высокопроизводительных вычислительных решений

Forbes
Актер и гражданин Актер и гражданин

Как Жан Габен воплотил дух Франции

Weekend
Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту

Эти советы по уходу за стиральной машиной стоит знать

VOICE
«Джеймс Уэбб» отыскал экстремально активно растущую черную дыру из молодой Вселенной «Джеймс Уэбб» отыскал экстремально активно растущую черную дыру из молодой Вселенной

«Джеймс Уэбб» обнаружил необычное активное галактическое ядро

N+1
Не ставь туда фото котика: о чем рассказывает людям твое фото профиля в соцсетях Не ставь туда фото котика: о чем рассказывает людям твое фото профиля в соцсетях

Какой портрет человека можно создать по его аватарке?

VOICE
«Здоровые границы — это главное условие». О чем новая книга Анны Бабич «Здоровые границы — это главное условие». О чем новая книга Анны Бабич

Анны Бабич: почему самооценка — краеугольный камень благополучной жизни

РБК
Первый советский хакер остановил конвейер ВАЗа… и раскрыл заговор айтишников. Вот как это было Первый советский хакер остановил конвейер ВАЗа… и раскрыл заговор айтишников. Вот как это было

Амбициозный программист сначала стал преступником, затем национальным героем

ТехИнсайдер
«Мы имеем дело с советским конструктом „народного“» «Мы имеем дело с советским конструктом „народного“»

Светлана Адоньева о праздниках и ритуалах, создающих народ

Weekend
Предложил, но не женится: что такое shut up ring и как этим пользуются мужчины Предложил, но не женится: что такое shut up ring и как этим пользуются мужчины

Что такое феномен shut up ring и как это влияет на отношения

Psychologies
Укоренившаяся ассоциация: почему именно гвоздики — траурные цветы? Укоренившаяся ассоциация: почему именно гвоздики — траурные цветы?

Почему именно гвоздики получили такую мрачную ассоциацию?

ТехИнсайдер
Двое российских миллиардеров из списка Forbes создают СП в области кибербезопасности Двое российских миллиардеров из списка Forbes создают СП в области кибербезопасности

Владимир Евтушенков и Юрий Максимов создают СП в области кибербезопасности

Forbes
Букет — маме, жене — цветок: новый тренд возмутил пользователей соцсетей Букет — маме, жене — цветок: новый тренд возмутил пользователей соцсетей

Кто дороже: мама или жена? Каждая занимает особое место в сердце мужчины

Psychologies
«Грохот», «Триллер», «Война» и «Резня»: величайшие противостояния в истории бокса «Грохот», «Триллер», «Война» и «Резня»: величайшие противостояния в истории бокса

Самые значимые бои в истории мирового бокса

Forbes
Королева глянца, Мэри Поппинс, бесстрашная наемница: экранная эволюция Эмили Блант Королева глянца, Мэри Поппинс, бесстрашная наемница: экранная эволюция Эмили Блант

Экранная эволюция Эмили Блант, прошедшей долгий мультижанровый путь

Правила жизни
Гибридный самолет Electra с восемью пропеллерами совершил сверхкороткий взлет и посадку Гибридный самолет Electra с восемью пропеллерами совершил сверхкороткий взлет и посадку

Electra понадобилось 52 метра для взлета и 35 метров для посадки

N+1
Его Высокопреосвященство Его Высокопреосвященство

Арест и суд над венгерским кардиналом Йожефом Миндсенти

Дилетант
Мнимый безумец Мнимый безумец

Томмазо Кампанелла — монах, философ, мятежник, король мира, поэт и маг

Дилетант
Как друзья построили в России сервис подбора витаминов и выручили 500 млн рублей Как друзья построили в России сервис подбора витаминов и выручили 500 млн рублей

Halsa не единственный в России сервис подбора витаминов, но лидер в этой нише

Forbes
Ай, меня ужалили! Ай, меня ужалили!

Встретить медуз можно на любом курорте – и ожоги некоторых очень неприятны

Лиза
Слоны поприветствовали друг друга жестами и голосом Слоны поприветствовали друг друга жестами и голосом

Поведение слонов включает в себя совокупность вокализаций, движений и жестов

N+1
Как лучше поддержать партнера в трудную минуту: 6 идей Как лучше поддержать партнера в трудную минуту: 6 идей

Как научиться лучше понимать партнера и проявлять эмпатию? Вот несколько идей

Psychologies
Овца в волчьей шкуре. Комедийный детектив «Я не киллер» с Гленом Пауэллом в главной роли Овца в волчьей шкуре. Комедийный детектив «Я не киллер» с Гленом Пауэллом в главной роли

Как комедия «Я не киллер» взламывает клише фильмов о профессиональных убийцах

СНОБ
Ученые создали модель, которая поможет людям читать быстрее Ученые создали модель, которая поможет людям читать быстрее

Существует ли способ научить мозг более эффективно читать на новом языке?

ТехИнсайдер
Как Элишка Юнкова стала гонщицей во времена, когда женщины в тайне учились водить Как Элишка Юнкова стала гонщицей во времена, когда женщины в тайне учились водить

История женщины, которой покорялись самые сложные трассы

Forbes
Открыть в приложении