Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Водный баланс. Можно ли пить воду во время тренировки и сколько Водный баланс. Можно ли пить воду во время тренировки и сколько

Вода важна для физической активности, поскольку это предотвращает обезвоживание

Лиза
5-аминолевулиновая кислота помогла дрозофилам с дефектом дыхательной цепи выработать АТФ 5-аминолевулиновая кислота помогла дрозофилам с дефектом дыхательной цепи выработать АТФ

Открытие, которое может помочь в лечении митохондриальных нарушений

N+1
Одни эмоции Одни эмоции

Для чего на самом деле нужны злость, обида и грусть?

VOICE
Усадьбы, пляжи и дома творчества: идеи для отдыха в Москве и Подмосковье Усадьбы, пляжи и дома творчества: идеи для отдыха в Москве и Подмосковье

Что можно увидеть на маршрутах нового проекта «Москва + Подмосковье»

СНОБ
Пластиковая красота. Почему винтажные Барби разрушаются и как их спасти Пластиковая красота. Почему винтажные Барби разрушаются и как их спасти

Какой процесс неумолимо сокращает жизнь Барби и можно ли его остановить?

СНОБ
С миру по нитке: как топ-спортсменам приходится просить на Олимпиаду деньги у фанатов С миру по нитке: как топ-спортсменам приходится просить на Олимпиаду деньги у фанатов

Вспоминаем истории, когда на Олимпиаду спортсменам собирали всем миром

Forbes
Бриллиант не навсегда Бриллиант не навсегда

Индия рассчитывает вернуть алмаз «Кох-и-Нур», который украшает корону Британии

Robb Report
Рейдер, активист, лифтер Рейдер, активист, лифтер

Как инвестирует Карл Айкан

Деньги
5 причин заниматься пилатесом в любом возрасте 5 причин заниматься пилатесом в любом возрасте

Какие бонусы для здоровья пилатес дает в разном возрасте?

Правила жизни
Данте и Беатриче Данте и Беатриче

Рассматриваем картину британского художника Генри Холидея «Данте и Беатриче»

Дилетант
Топ-5 самых ярких экранизаций книг Терри Пратчетта Топ-5 самых ярких экранизаций книг Терри Пратчетта

Есть и жемчужины, и неоднозначные творения: экранизации книг Терри Пратчетта

Maxim
До встречи в книжном: 7 отличных романов для отпуска До встречи в книжном: 7 отличных романов для отпуска

Добрые, милые, уютные истории, которые заставят переживать, но кончатся хорошо

Psychologies
Почти два миллиарда человек пострадали от анемии в 2021 году Почти два миллиарда человек пострадали от анемии в 2021 году

В 2021 году распространенность анемии среди людей всех возрастов составила 24,3%

N+1
Устал и ухожу: как владельцы и руководители компаний добровольно покидают свои посты Устал и ухожу: как владельцы и руководители компаний добровольно покидают свои посты

С годами отход от дел по болезни стал привычным для бизнеса

Forbes
Ужин подан! Ужин подан!

9 вопросов о правильном ужине

Лиза
Птицы построили гнезда из противоптичьих шипов Птицы построили гнезда из противоптичьих шипов

Необычный материал для гнезд использовали сороки и черные вороны

N+1
Палеогенетики прочитали ДНК 71 жертвы массовой расправы семитысячелетней давности Палеогенетики прочитали ДНК 71 жертвы массовой расправы семитысячелетней давности

Ученые прочитали ДНК 268 древних людей, проживавших в Европе в эпоху неолита

N+1
Any Wowzers Any Wowzers

Как Аня Баркова придумала бренд пижам c пляжным уклоном Any Wowzers

Собака.ru
«Все заменить невозможно»: дефицит каких ветеринарных препаратов ожидает Россию «Все заменить невозможно»: дефицит каких ветеринарных препаратов ожидает Россию

На рынке препаратов для домашних животных ситуация действительно напряженная

Forbes
Что общего между фольклором и стрит-артом. Отвечают современные художники Что общего между фольклором и стрит-артом. Отвечают современные художники

Как связаны между собой стрит-арт и фольклор?

СНОБ
Все дело в генах Все дело в генах

Про ген худобы, шизофрению по наследству и другое поговорили с экспертом

Лиза
«Игра в бога»: как зародился рынок «заказных дождей» и сколько денег он приносит «Игра в бога»: как зародился рынок «заказных дождей» и сколько денег он приносит

Сейчас никого не удивишь управлением погодой, но как все начиналось?

VC.RU
Три мотора и 6 литров на сотню: экономичный тест Chery Tiggo 8 Pro E+ Три мотора и 6 литров на сотню: экономичный тест Chery Tiggo 8 Pro E+

Технологичный, экономичный, солидный кроссовер с роскошным салоном

Maxim
3 самых распространенных женских заболевания в наше время 3 самых распространенных женских заболевания в наше время

Как на женском организме сказывается хронический стресс?

Psychologies
«Понюхать грязные подгузники»: 5 безумных психологических экспериментов — радуйтесь, что вы в них не участвовали «Понюхать грязные подгузники»: 5 безумных психологических экспериментов — радуйтесь, что вы в них не участвовали

Психологические эксперименты, в которых подопытных унижают и пугают

Psychologies
Душевная пустота: что это и как ее правильно заполнять — 5 шагов Душевная пустота: что это и как ее правильно заполнять — 5 шагов

Откуда берутся апатия и чувство безысходности?

Psychologies
«Я плакал от обиды»: бывший бойфренд Николь Кидман рассказал, как она сбежала от него к Тому Крузу «Я плакал от обиды»: бывший бойфренд Николь Кидман рассказал, как она сбежала от него к Тому Крузу

Отношения Маркуса Грэма с Николь Кидман разрушились из-за голливудского актера

VOICE
Кто такой Генри Форд и как ему удалось построить автомобильную империю Кто такой Генри Форд и как ему удалось построить автомобильную империю

Человек, который стал не только символом автомобилизации, но и изменил мир

РБК
И ты скрулл И ты скрулл

«Секретное вторжение»: противостояние России и США по версии Marvel

Weekend
Как вернуться к работе после отдыха и не уволиться в первый день Как вернуться к работе после отдыха и не уволиться в первый день

Почему бывает сложно приняться за работу после отдыха

Правила жизни
Открыть в приложении