Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Думающие» ИИ-спутники сами выбирают момент съемки Земли «Думающие» ИИ-спутники сами выбирают момент съемки Земли

Как работает система, позволяющая спутникам анализировать обстановку

ТехИнсайдер
Вечная классика: 5 цветов лака, которые должны быть у каждой женщины Вечная классика: 5 цветов лака, которые должны быть у каждой женщины

Главная проблема, когда дело доходит до покрытия, — это выбор

VOICE
5 сверхспособностей, которые станут доступны людям уже через 5 лет по версии футурологов 5 сверхспособностей, которые станут доступны людям уже через 5 лет по версии футурологов

Какие «суперспособности» станут реальностью уже к 2030 году — и какой ценой?

Maxim
Почему в последние годы в лесах стало так много клещей, а в СССР их были единицы, и существует ли прививка от их укусов? Почему в последние годы в лесах стало так много клещей, а в СССР их были единицы, и существует ли прививка от их укусов?

Почему в последние годы в России стало так много клещей

ТехИнсайдер
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Откуда взялся Indian Pale Ale (IPA) и чем отличаются его сорта между собой. История и краткий гид Откуда взялся Indian Pale Ale (IPA) и чем отличаются его сорта между собой. История и краткий гид

Пора разобраться со путаницей Indian Pale Ale: с ее истоками и последствиями.

Maxim
Как найти настоящую любовь: 3 полезные мысли — впустите это чувство в вашу жизнь Как найти настоящую любовь: 3 полезные мысли — впустите это чувство в вашу жизнь

Любить и быть любимыми хотят все. Но как обрести заветное чувство?

Psychologies
Как она хочет: 5 лучших нон-фикшн книг, которые помогут лучше понимать свою женщину Как она хочет: 5 лучших нон-фикшн книг, которые помогут лучше понимать свою женщину

Как достичь понимания со своей женщиной? Подскажут эти книги

Maxim
Как распознать абьюз в семье: советы пожилым родителям Как распознать абьюз в семье: советы пожилым родителям

Как проявляется психологическое насилие над пожилыми людьми?

Psychologies
Спасти глаза летом: как выбрать качественные солнцезащитные очки Спасти глаза летом: как выбрать качественные солнцезащитные очки

Как выбрать качественные солнцезащитные очки и не переплатить

ТехИнсайдер
Солнце, море, Дагестан Солнце, море, Дагестан

Отправляемся за пляжными развлечениями и не только в солнечный Дагестан

Лиза
Реакция на обонятельные стимулы предсказала восстановление сознания Реакция на обонятельные стимулы предсказала восстановление сознания

Ученые исследовали людей без реакции на запахи

N+1
Макароны по-неандертальски Макароны по-неандертальски

В деле об искусстве неандертальцев появилась новая статья

N+1
Степной закат Степной закат

Этот дом максимально ориентирован на ландшафт

Идеи Вашего Дома
Российские астрономы подсчитали сколько весит Млечный путь Российские астрономы подсчитали сколько весит Млечный путь

Хотите узнать, сколько весит Млечный путь?

ТехИнсайдер
7 алкогольных сочетаний, которые гарантируют похмелье 7 алкогольных сочетаний, которые гарантируют похмелье

То, что категорически нельзя между собой смешивать

Psychologies
Как сохранять спокойствие и рассудок в сложные времена Как сохранять спокойствие и рассудок в сложные времена

Как взять свои эмоции под контроль, когда на ситуацию нельзя повлиять?

Правила жизни
Взрывающаяся голова и галлюцинации: 5 необычных нарушений сна Взрывающаяся голова и галлюцинации: 5 необычных нарушений сна

Вам случалось когда-нибудь кричать во сне на своего партнера?

Psychologies
Что заставляет женщин выбирать женатых мужчин: 3 мотива Что заставляет женщин выбирать женатых мужчин: 3 мотива

Можно корить за выбор несвободных мужчин, а можно попытаться понять

Psychologies
На чужом несчастье: как Стинг разрушил свой брак ради настоящей любви На чужом несчастье: как Стинг разрушил свой брак ради настоящей любви

Долгие семейные союзы в Голливуде редкость, но Стинг и Труди — исключение

VOICE
Московский скоростной диаметр: зачем он нужен и как по нему ездить Московский скоростной диаметр: зачем он нужен и как по нему ездить

Какие задачи решает Московский скоростной диаметр и как им пользоваться

РБК
Геймпад для управления и никакой сертификации: что известно об OceanGate, батискаф которой затонул возле «Титаника» Геймпад для управления и никакой сертификации: что известно об OceanGate, батискаф которой затонул возле «Титаника»

OceanGate: как был устроен «Титан» и почему он затонул?

VC.RU
Кинофраншизы, которые не сдуваются до конца Кинофраншизы, которые не сдуваются до конца

Тот самый случай, когда первый фильм, сиквел, триквел и дополняют друг друга

Maxim
«Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова «Среди взрослых куча злых — зачем детям их уважать?»: монолог режиссера Бориса Хлебникова

Режиссер Борис Хлебников — о том, как не давить на детей

Psychologies
Спасаем любимые вещи: как отстирать любую краску с одежды Спасаем любимые вещи: как отстирать любую краску с одежды

Можно ли спасти любимую одежду от краски?

ТехИнсайдер
Тонкое взаимодействие Тонкое взаимодействие

Интерьер дома, построенного по индивидуальному проекту, сложился подобно пазлу

Идеи Вашего Дома
Что произойдет с планетой, если люди внезапно исчезнут? Интересные факты! Что произойдет с планетой, если люди внезапно исчезнут? Интересные факты!

Станет ли Земле легче, если все 8 миллиардов человек внезапно исчезнут?

ТехИнсайдер
Закрыть потребность: что мы можем дать друг другу в отношениях — 2 примера из практики психолога Закрыть потребность: что мы можем дать друг другу в отношениях — 2 примера из практики психолога

Что мы так хотим получить от отношений?

Psychologies
За регенерацию тела у гидрактиний отвечают процессы старения клеток За регенерацию тела у гидрактиний отвечают процессы старения клеток

Как крошечное морское существо гидрактиния регенерирует новое тело?

ТехИнсайдер
Чтение выходного дня: фрагмент книги «Бархатная кибитка» Павла Пепперштейна Чтение выходного дня: фрагмент книги «Бархатная кибитка» Павла Пепперштейна

Отрывок из интеллектуально-биографического лабиринта «Бархатная кибитка»

Правила жизни
Открыть в приложении