Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тайна хрущёвок: зачем в старых квартирах делали окно между кухней и ванной? Тайна хрущёвок: зачем в старых квартирах делали окно между кухней и ванной?

Правда и мифы о том, зачем в квартирах делали окно между кухней и ванной

Cosmopolitan
Стоит ли смотреть триллер «Схватка с дьяволом» с Николасом Кейджем Стоит ли смотреть триллер «Схватка с дьяволом» с Николасом Кейджем

Кейдж из объекта насмешек и тупых мемов превращается в знак качества

Maxim
Говорящие книги, пошаговая навигация и виртуальные ассистенты: полезные приложения для незрячих пользователей Говорящие книги, пошаговая навигация и виртуальные ассистенты: полезные приложения для незрячих пользователей

Приложения позволили незрячим стать более независимыми. Вот подборка!

ТехИнсайдер
Бизнес на автоматизации рутины: как войти в топ богатейших женщин США Бизнес на автоматизации рутины: как войти в топ богатейших женщин США

Как Кристина Качоппо вошла в число богатейших self-made женщин Америки

Forbes
Сложно ли зарегистрировать бизнес в Дубае? И еще несколько задач, которые решала команда Wind Rises Сложно ли зарегистрировать бизнес в Дубае? И еще несколько задач, которые решала команда Wind Rises

Команда Wind Rises — о «легкой» регистрации и неработающих скидках

Правила жизни
Сексуальная отзывчивость: что это такое и как влияет на отношения — улучшите взаимопонимание Сексуальная отзывчивость: что это такое и как влияет на отношения — улучшите взаимопонимание

Внимательность, заботливость партнера помогают поддерживать психическое здоровье

Psychologies
Не время паниковать: американский писатель о первой влюбленности и взрослении Не время паниковать: американский писатель о первой влюбленности и взрослении

Отрывок из детектива и романа о взрослении «Не время паниковать»

Forbes
Чем интересен фильм Майка Ли «Обнаженные» Чем интересен фильм Майка Ли «Обнаженные»

Чем интересна экзистенциальная притча о взрослении и одиночестве

СНОБ
От Месси до Малкома: как испанские налоговые органы преследуют футболистов От Месси до Малкома: как испанские налоговые органы преследуют футболистов

Почему в Испании возбуждают так много дел против топ-игроков?

Forbes
Один день в Иркутске Один день в Иркутске

Всего один день в Иркутске можно увидеть множество интересного!

Лиза
Почему пот оставляет желтые пятна на одежде, если он бесцветный? Почему пот оставляет желтые пятна на одежде, если он бесцветный?

Если пот — бесцветная влага, откуда такой краситель?

ТехИнсайдер
Прийти в сознание. Научные споры об устройстве мозга и свободе воли Прийти в сознание. Научные споры об устройстве мозга и свободе воли

Как работает наше сознание?

СНОБ
Алла Юганова: «Была уверена, что Кончитту должна играть очень красивая актриса, а я самая обыкновенная...» Алла Юганова: «Была уверена, что Кончитту должна играть очень красивая актриса, а я самая обыкновенная...»

Иногда читаешь сценарий и думаешь: «Ну, авторы накрутили! Разве так бывает?»

Коллекция. Караван историй
Когда ты — не стандарт: 5 простых способов почувствовать себя самой красивой Когда ты — не стандарт: 5 простых способов почувствовать себя самой красивой

Лови формулу, которая поможет тебе раскрыть свою красоту и повысить самооценку!

VOICE
За гранью оргазма: все, что нужно знать об удовольствии, — разбор с психологами За гранью оргазма: все, что нужно знать об удовольствии, — разбор с психологами

Действительно ли оргазм то переживание, стремиться к которому нужно любой ценой?

Psychologies
Ароматная тайна Востока: что такое шамама, парфюмерная нота, которую невозможно описать, и в каких духах ее нужно искать Ароматная тайна Востока: что такое шамама, парфюмерная нота, которую невозможно описать, и в каких духах ее нужно искать

Аттара шамама: драгоценное парфюмерное снадобье, ароматное сердце Востока

VOICE
Дети в парламенте: как женщины-политики совмещают материнство с работой Дети в парламенте: как женщины-политики совмещают материнство с работой

Как женщины-политики добиваются права не выбирать между работой и материнством

Forbes
“У тебя не мои глаза, не мои волосы”: горькая судьба Ари Булоня, всю жизнь доказывавшего, что он сын Алена Делона “У тебя не мои глаза, не мои волосы”: горькая судьба Ари Булоня, всю жизнь доказывавшего, что он сын Алена Делона

Одна из тяжелых страниц биографии Алена Делона: взаимоотношения с Ари Булонем

VOICE
Картинки с отягчающими обстоятельствами Картинки с отягчающими обстоятельствами

Как карикатуры нарушали границы допустимого и к каким последствиям это приводило

Weekend
Психологический тест, который не мешало бы пройти каждому: узнайте, что вы за человек на самом деле Психологический тест, который не мешало бы пройти каждому: узнайте, что вы за человек на самом деле

Глаза могут много рассказать о ваших потаенных личных качествах

ТехИнсайдер
Шаманы и шаманизм Шаманы и шаманизм

Почему шаманизм многих пугает и как он работает на самом деле?

Лиза
DRACO в космосе: зачем в NASA создают ядерный двигатель DRACO в космосе: зачем в NASA создают ядерный двигатель

Полмиллиарда долларов на создание космического корабля с ядерным двигателем

Forbes
От укачивания в транспорте можно использовать специальные очки! Вот как они работают От укачивания в транспорте можно использовать специальные очки! Вот как они работают

Необычный способ, который спасет ваш будущий отпуск

ТехИнсайдер
«Все заменить невозможно»: дефицит каких ветеринарных препаратов ожидает Россию «Все заменить невозможно»: дефицит каких ветеринарных препаратов ожидает Россию

На рынке препаратов для домашних животных ситуация действительно напряженная

Forbes
Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты

Почему сегмент барбершопов так быстро растет?

Forbes
Направления для управления: где власти хотят использовать искусственный интеллект Направления для управления: где власти хотят использовать искусственный интеллект

Минцифры предложило перечень направлений для развития технологий ИИ

Forbes
Актрисы, модели, балерины — главные женщины в жизни Мика Джаггера Актрисы, модели, балерины — главные женщины в жизни Мика Джаггера

Самые яркие романы Мика Джаггера

Maxim
Среди антиквариата, талисманов и выкроек: где жили и творили дизайнеры высокой моды Среди антиквариата, талисманов и выкроек: где жили и творили дизайнеры высокой моды

Восемь самых интересных музеев моды по всему миру

Forbes
Нелюбимые дети и патриархат: как в Ясной Поляне переосмысляют «Анну Каренину» Нелюбимые дети и патриархат: как в Ясной Поляне переосмысляют «Анну Каренину»

Как роман «Анна Каренина» пытаются критически переосмыслить сегодня?

Forbes
Больше энергии и меньше тревоги: откуда брать витамин В12? Больше энергии и меньше тревоги: откуда брать витамин В12?

Продукты, в которых содержится витамин B12

ТехИнсайдер
Открыть в приложении