Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Остров проклятых: как Гайола разрушила жизни всех своих владельцев Остров проклятых: как Гайола разрушила жизни всех своих владельцев

За гробовой тишиной острова Гайола скрываются жуткие истории

ТехИнсайдер
Сложное соседство: как жить в одном доме с кошкой, если у вас появилась аллергия Сложное соседство: как жить в одном доме с кошкой, если у вас появилась аллергия

Как ужиться в одной квартире с кошкой, если у вас появилась аллергия на нее?

ТехИнсайдер
Квантовая готовность: ждет ли бизнес новая технологическая революция Квантовая готовность: ждет ли бизнес новая технологическая революция

Существует риск проспать квантовую революцию, считает Андрей Скорочкин

Forbes
Ах, Самара-городок Ах, Самара-городок

Визитные карточки Самары, которые изменят твои представления о ней

Лиза
Почему у мужчин «пунктик» на анальном сексе? Почему у мужчин «пунктик» на анальном сексе?

Откуда у мужчин эта причудливая фиксация на анальном сексе

Cosmopolitan
Владимир Владимирцев: Во всем мире камни делят на цветные и бриллианты, но не в России Владимир Владимирцев: Во всем мире камни делят на цветные и бриллианты, но не в России

В чем тонкости русской огранки, как сочетать творчество и законы физики

СНОБ
Сила граната: природное соединение в его составе может помочь в лечении болезни Альцгеймера Сила граната: природное соединение в его составе может помочь в лечении болезни Альцгеймера

Гранат может улучшить память и сделать лечение болезни Альцгеймера эффективнее

ТехИнсайдер
Что скрывает черная повязка на правом глазу Кутузова? Все это время нас вводили в заблуждение Что скрывает черная повязка на правом глазу Кутузова? Все это время нас вводили в заблуждение

Мы разобрались, откуда растут ноги у исторической ошибки глаза Кутузова

ТехИнсайдер
10 способов справиться со стрессом: только наука! 10 способов справиться со стрессом: только наука!

Научно обоснованные методы помогут вам защитить свое тело и мозг от стресса

ТехИнсайдер
Психологические травмы: чем они могут быть полезны — беседа с психотерапевтом Психологические травмы: чем они могут быть полезны — беседа с психотерапевтом

Что такое травма? Чем она опасна как для нас, так и для окружающих?

Psychologies
Ирина Млодик объяснила, как относиться к жизни ребенка в виртуальном мире Ирина Млодик объяснила, как относиться к жизни ребенка в виртуальном мире

Почему не нужно воевать с виртуальным миром детей

Psychologies
Край гор и водопадов Край гор и водопадов

Адыгея — край колоритных деревушек в горах и уникальных памятников природы

Лиза
45 лет апартеида 45 лет апартеида

Что такое апартеид? Как он работал в Южно-Африканском Союзе?

Дилетант
Успешные правила Успешные правила

Андрей Малахов и психолог Нигина Абаева – о побочке соцсетей и чувстве стыда

Psychologies
«Красные гиганты»: как баскетбол становился частью советской культуры и спорта «Красные гиганты»: как баскетбол становился частью советской культуры и спорта

Отрывок из книги «Красные гиганты. История советского баскетбола»

Forbes
Битва за Берлин: квинтэссенция опыта советской армии Битва за Берлин: квинтэссенция опыта советской армии

Как проходила финальная битва Великой Отечественной войны

Монокль
6-летняя девочка делает макияж в детский сад: как поколение альфа рискует травмировать себя 6-летняя девочка делает макияж в детский сад: как поколение альфа рискует травмировать себя

Почему поколение альфа так одержимо макияжем и чем это может им навредить?

Psychologies
9 продуктов, снижающих уровень холестерина. Советы экспертов 9 продуктов, снижающих уровень холестерина. Советы экспертов

Как правильно составить рацион при высоком уровне холестерина?

РБК
«Теща, бобка, грызь» и еще 12 необычных слов из жаргона машинистов паровозов «Теща, бобка, грызь» и еще 12 необычных слов из жаргона машинистов паровозов

Самые смешные выражения из языка железнодорожников 19 века

ТехИнсайдер
«Хитрости»: сериал о том, как уживаются друг с другом женщины разных поколений «Хитрости»: сериал о том, как уживаются друг с другом женщины разных поколений

«Хитрости»: сериал, рассказывающий о легенде стендапа Деборе Вэнс

Forbes
Старость не радость? Старость не радость?

Человечество стареет. Тенденция отмечается практически во всех странах мира

Наука и техника
Эксперимент Таскиги: одна из самых жестоких медицинских программ в истории человечества Эксперимент Таскиги: одна из самых жестоких медицинских программ в истории человечества

Проект Таскиги стал одним из самых жестоких случаев медицинского расизма

ТехИнсайдер
Удивительная находка! Майя «благословляли» площадки для игры в мяч галлюциногенными растениями Удивительная находка! Майя «благословляли» площадки для игры в мяч галлюциногенными растениями

Археологи использовали ДНК, чтобы сделать «экстраординарное» открытие

ТехИнсайдер
Море без границ Море без границ

Bering Yachts разработала проект моторной суперъяхты Bering B165

Y Magazine
Арифметика везения Арифметика везения

3 удачных и 3 опасных цифры для привлечения денег

Лиза
Размер не имеет значения: как женщины проектируют небоскребы, удобные для жизни Размер не имеет значения: как женщины проектируют небоскребы, удобные для жизни

Какую роль играют женщины в строении небоскребов?

Forbes
Как добиться повышения на работе? Ни в коем случае не совершайте эти ошибки Как добиться повышения на работе? Ни в коем случае не совершайте эти ошибки

Как же показать себя во всей красе и добиться признания начальства?

ТехИнсайдер
Как сохранять концентрацию: 3 рабочие стратегии Как сохранять концентрацию: 3 рабочие стратегии

Как управлять вниманием и учиться держать фокус в рабочее время и не только?

Psychologies
Как лучше поддержать партнера в трудную минуту: 6 идей Как лучше поддержать партнера в трудную минуту: 6 идей

Как научиться лучше понимать партнера и проявлять эмпатию? Вот несколько идей

Psychologies
Детский мир Детский мир

Питер Брейгель превратил в детскую площадку целый город

Вокруг света
Открыть в приложении