Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

4 вредные привычки, которые, как подтверждают исследования, медленно разрушают здоровье 4 вредные привычки, которые, как подтверждают исследования, медленно разрушают здоровье

Привычки, которые могут стать смертельными, если их не контролировать

Inc.
Почему сначала не хочется идти в душ, а потом — выходить из него: 4 необычных феномена «ванной психологии» Почему сначала не хочется идти в душ, а потом — выходить из него: 4 необычных феномена «ванной психологии»

Пчему проще переживать в ванной и почему иногда нам особенно лень идти в душ

Psychologies
Без денег не останетесь: куда прятать наличные на пляже Без денег не останетесь: куда прятать наличные на пляже

Самые надежные места, куда можно спрятать деньги во время отдыха на море

ТехИнсайдер
После секса: как на самом деле ведут себя мужчины и женщины — объяснение ученых После секса: как на самом деле ведут себя мужчины и женщины — объяснение ученых

Близость после секса необходима для обоих партнеров

Psychologies
«Хаббл» увидел неравномерную потерю атмосферы горячим нептуном «Хаббл» увидел неравномерную потерю атмосферы горячим нептуном

Переменность потери нейтрального водорода атмосферой горячего нептуна

N+1
Бюджетный органайзер: 7 идей, как использовать обувные коробки в быту Бюджетный органайзер: 7 идей, как использовать обувные коробки в быту

Мы знаем, что у вас осталась хотя бы пара коробок от обуви. Воспользуемся ими!

ТехИнсайдер
Температура видеокарты: какой она должна быть, и как бороться с перегревом Температура видеокарты: какой она должна быть, и как бороться с перегревом

До какой предельной температуры может нагреваться видеокарта?

CHIP
Образование с градусом. Где учат делать авторский алкоголь Образование с градусом. Где учат делать авторский алкоголь

Где учат варить пиво, делать сидр, настойки, коктейли и работать с су-видом

СНОБ
Как Дзюнко Табэи первой из женщин покорила Эверест и другие главные вершины Как Дзюнко Табэи первой из женщин покорила Эверест и другие главные вершины

Как альпинистка Дзюнко Табэи разрушила стереотип о роли женщины в Японии

Forbes
7 секретов гармоничной жизни, которым могут научить бонобо 7 секретов гармоничной жизни, которым могут научить бонобо

Бонобо отличаются своим миролюбием. Все свои проблемы они решают с помощью секса

Psychologies
«Формула-1» бьет рекорды: почему команды серии дорожают на сотни процентов в год «Формула-1» бьет рекорды: почему команды серии дорожают на сотни процентов в год

Оценки стоимости команд «Формулы-1» стремительно растут

Forbes
Новый Mitsubishi L200 наконец-то представлен официально Новый Mitsubishi L200 наконец-то представлен официально

Шестое поколение Mitsubishi L200 получило новый дизель и коробку передач

4x4 Club
Трогательный момент: зачем нужны прикосновения — ответ ученых Трогательный момент: зачем нужны прикосновения — ответ ученых

Прикосновения обладают целительной силой

Psychologies
Отец «червя», профессор, бизнесмен: история Роберта Тэппэна Морриса — студента, который изменил интернет Отец «червя», профессор, бизнесмен: история Роберта Тэппэна Морриса — студента, который изменил интернет

Вспоминаем историю человека, который  случайно «взломал» интернет

Правила жизни
Фельдшер скорой помощи нашла остатки парейазавра на берегу Вятки Фельдшер скорой помощи нашла остатки парейазавра на берегу Вятки

Древняя парарептилия жила около 260 миллионов лет назад

N+1
Альберт Эйнштейн: счастливые годы в Берне Альберт Эйнштейн: счастливые годы в Берне

С каким багажом Эйнштейн приехал в Берн и как он шел к своему «году чудес»

Наука и жизнь
Слияние, отдаление, контакт, близость: как пройти 4 стадии дружбы Слияние, отдаление, контакт, близость: как пройти 4 стадии дружбы

Почему мы теряем друзей?

Psychologies
Как холдинг бывшего участника списка Forbes простил ему 26 млрд рублей долга Как холдинг бывшего участника списка Forbes простил ему 26 млрд рублей долга

Как выдавались займы и прощались долги в УСМК

Forbes
Мал да удал: у сенокосцев обнаружили три вида самцов с уникальной стратегией размножения Мал да удал: у сенокосцев обнаружили три вида самцов с уникальной стратегией размножения

У редкого вида паукообразных существует три разных типа самцов

ТехИнсайдер
Почему собранные ретейлерами на переработку вещи оказываются на свалках Африки Почему собранные ретейлерами на переработку вещи оказываются на свалках Африки

Почему в мире перерабатывается менее 1% текстильных отходов?

Forbes
Donda Academy: что мы знаем о частной христианской школе Канье Уэста и зачем она ему Donda Academy: что мы знаем о частной христианской школе Канье Уэста и зачем она ему

Как устроена частная христианская школа Уэста и почему ее критикуют учителя

Forbes
Следствие ведут экстрасенсы Следствие ведут экстрасенсы

«Гипнотик»: Бен Аффлек в долгострое Роберта Родригеса

Weekend
Тень отца: как твой папа влияет на твои отношения с мужчинами - 6 типичных сценариев Тень отца: как твой папа влияет на твои отношения с мужчинами - 6 типичных сценариев

Почему в романтических отношениях мы часто ищем отражение своего папы?

VOICE
Насколько правдоподобен фильм «Интерстеллар» и что такое теория Большого взрыва: 5 книг об устройстве вселенной Насколько правдоподобен фильм «Интерстеллар» и что такое теория Большого взрыва: 5 книг об устройстве вселенной

Книги, которые помогут вам разобраться с научными концепциями

ТехИнсайдер
Идите к своим и не бойтесь конкурсов: как креативным агентствам работать за рубежом Идите к своим и не бойтесь конкурсов: как креативным агентствам работать за рубежом

Есть ли шанс у игроков креативной индустрии завоевать новую аудиторию?

Forbes
Ароматная тайна Востока: что такое шамама, парфюмерная нота, которую невозможно описать, и в каких духах ее нужно искать Ароматная тайна Востока: что такое шамама, парфюмерная нота, которую невозможно описать, и в каких духах ее нужно искать

Аттара шамама: драгоценное парфюмерное снадобье, ароматное сердце Востока

VOICE
«Рома приобнял меня на балконе»: Наталья Штурм рассказала, как за ней ухаживал Абрамович «Рома приобнял меня на балконе»: Наталья Штурм рассказала, как за ней ухаживал Абрамович

Наталья Штурм рассказала о своем школьном романе

VOICE
Модель ИИ Brain2Music превращает мысли в музыку Модель ИИ Brain2Music превращает мысли в музыку

Разработана модель ИИ, которая восстанавливает музыку, которую слышит человек

ТехИнсайдер
«Кризис не придет из экономики»: главное из интервью экономиста Олега Ицхоки «Кризис не придет из экономики»: главное из интервью экономиста Олега Ицхоки

В России сложилась уникальная ситуация, считает Олег Ицхоки

Forbes
Какой маникюр делают в Турции: что больше всего разочаровало российскую туристку Какой маникюр делают в Турции: что больше всего разочаровало российскую туристку

На что стоит рассчитывать, если нужно сделать маникюр в другой стране?

VOICE
Открыть в приложении