Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Монеты, отчеканенные 1500 лет назад с одного штемпеля, рассказали о древних торговых путях Монеты, отчеканенные 1500 лет назад с одного штемпеля, рассказали о древних торговых путях

Что древние монеты рассказали об экономической интеграции Юго-Восточной Азии

ТехИнсайдер
Одна из «Девочек»: как Лина Данэм изменила женские образы на экране и пережила хейт Одна из «Девочек»: как Лина Данэм изменила женские образы на экране и пережила хейт

как актриса Лина Данэм борется со стереотипами, не боясь делать ошибки

Forbes
Дипфейк и верификация видео: как не стать жертвой обмана Дипфейк и верификация видео: как не стать жертвой обмана

Как обезопасить себя от дипфейков и мошеннических видео

Правила жизни
«Умоляющие» глаза собак появились не для нас. Они есть у диких пород «Умоляющие» глаза собак появились не для нас. Они есть у диких пород

Собаки пользуются мимикой не только с человеком, но и для общения друг с другом

ТехИнсайдер
Возможно, математик раскрыл тайну красивейших птичьих мурмураций Возможно, математик раскрыл тайну красивейших птичьих мурмураций

Математик Энди Рейнольдс, возможно, разгадал тайну птичьих мурмураций

ТехИнсайдер
Спрос на офисы в Москве стал рекордным за 10 лет Спрос на офисы в Москве стал рекордным за 10 лет

По итогам I квартала в Москве реализовано более 300 000 кв. м офисных площадей

Forbes
От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам

Рейтинг сериалов по комиксам за все время их существования

Правила жизни
Как по нотам Как по нотам

Никола Мельников об источниках вдохновения и подходе к пониманию искусства

Men Today
На склонах Окского каньона На склонах Окского каньона

Ока здесь течёт в узкой долине, за что она и получила название Окского каньона

Наука и жизнь
«Для нас это очень амбициозная задача» «Для нас это очень амбициозная задача»

Как России приблизиться к мировым лидерам по уровню роботизации промышленности?

Монокль
4 принципа, которые делают финнов счастливыми (и помогут вам!) 4 принципа, которые делают финнов счастливыми (и помогут вам!)

Поговорки, помогающие понять, почему финны — самый счастливый народ в мире

Psychologies
Спаржевый стартап Спаржевый стартап

Олег Жолобенко выращивает деликатесную агрокультуру в Черноземье

Агроинвестор
10 городов с самым большим количеством миллиардеров — 2024 10 городов с самым большим количеством миллиардеров — 2024

Какие мегаполисы стали центрами притяжения для самых богатых людей мира

Forbes
Кубок «Америки»: мифы, времена и люди Кубок «Америки»: мифы, времена и люди

Как и благодаря кому Кубок «Америки» обрел свой уникальный статус?

Y Magazine
«Психоанализ может быть полезен любому»: что нужно знать об этом методе психотерапии «Психоанализ может быть полезен любому»: что нужно знать об этом методе психотерапии

Чарльз Турк по сей день совмещает в практике психиатрию и психоанализ

Psychologies
Чайные пакетики рассказали о скорости разложения почвенного органического вещества в России Чайные пакетики рассказали о скорости разложения почвенного органического вещества в России

Зеленый чай в почве разлагается вдвое быстрее ройбуша

N+1
Дмитрий Леонтьев: BAIC X75 – машина для удовольствия Дмитрий Леонтьев: BAIC X75 – машина для удовольствия

Кроссовер BAIC X75 – тихое наслаждение

4x4 Club
Новые археологические открытия и альтернативные пути развития человечества Новые археологические открытия и альтернативные пути развития человечества

Ряд археологических открытий, не вписывающихся в привычную со школы картину

Наука и техника
Окинавский пастушок Окинавский пастушок

Единственная нелетающая птица Японии — ямбару-куина, или окинавский пастушок

Наука и жизнь
Почему концепции критической интернет-инфраструктуры нет места в будущем Почему концепции критической интернет-инфраструктуры нет места в будущем

Куда сместился ландшафт рисков, чего может стоить перерезанный кабель?

Forbes
«Как я приняла свою негативно настроенную мать»: 6 уроков «Как я приняла свою негативно настроенную мать»: 6 уроков

Как научиться быть счастливой, несмотря на негатив, исходящий от близких?

Psychologies
Опиум из народа Опиум из народа

Как Дени Вильнёв деколонизировал Дюну, но не смог изменить судьбу фременов

Weekend
Как не позволить ИИ заменить вас на работе? Узнайте ответ экспертов! Как не позволить ИИ заменить вас на работе? Узнайте ответ экспертов!

Какие меры принять людям, чтобы обеспечить свою конкурентоспособность перед ИИ

ТехИнсайдер
Насколько обоснована защита авторских прав и как быть с компьютерным кодом Насколько обоснована защита авторских прав и как быть с компьютерным кодом

Что сейчас на переднем крае «битвы копирайтов»?

Forbes
Путь Лиланда Стэнфорда от «барона-разбойника» к символу креативной экономики Путь Лиланда Стэнфорда от «барона-разбойника» к символу креативной экономики

Как лихой «барон» потратил свой капитал на создание культурного наследия

Forbes
«Ставить дружбу выше истины»: каково это — быть настоящим другом «Ставить дружбу выше истины»: каково это — быть настоящим другом

Дружба складывается не из схожестей людей, а из моментов, в которых они разнятся

Psychologies
Ключ к гармонии: 4 потребности и как их закрыть Ключ к гармонии: 4 потребности и как их закрыть

Как потребности более высокого уровня влияют на нашу жизнь?

Psychologies
Рейтинг для чемпионов Рейтинг для чемпионов

Рейтинг топовых российских спортсменов, чьи выступления не теряют актуальности

Men Today
Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы

Об удивительных примерах использования геометрических знаний

ТехИнсайдер
Бомбовоз на тяжелом топливе: чем удивляет редкий дизельный бомбардировщик Ер-2 Бомбовоз на тяжелом топливе: чем удивляет редкий дизельный бомбардировщик Ер-2

Самолет, первым отбомбившийся по Берлину в начале войны

ТехИнсайдер
Открыть в приложении