Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как рекламщики узнают номера телефонов посетителей сайта? Как рекламщики узнают номера телефонов посетителей сайта?

Вы зашли на сайт застройщика, а вам уже звонят и предлагают купить квартиру?

CHIP
Кто такие «бежевые» мамы и чем опасен новый тренд? Кто такие «бежевые» мамы и чем опасен новый тренд?

Почему «бежевое материнство» стало популярным и в чем его опасность для ребенка?

VOICE
Всё в цвету Всё в цвету

Обсудили с экспертом, как защитить чувствительную кожу в сезон пыльцы

Лиза
Возраст отдельных изображений Альтамиры оценили более чем в 20-30 тысяч лет Возраст отдельных изображений Альтамиры оценили более чем в 20-30 тысяч лет

Рисунки в пещере Альтамира могут иметь возраст в 20-30 тысяч лет

N+1
Как подключить и заменить праймер на бензопиле — простая инструкция Как подключить и заменить праймер на бензопиле — простая инструкция

Инструкция, как заменить праймер на бензопиле

CHIP
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Одной из тем обсуждения в научной фантастике ХХ века была космическая экспансия

Наука и жизнь
Интенсивное лечение артериальной гипертензии снизило риск деменции Интенсивное лечение артериальной гипертензии снизило риск деменции

Интенсивное выявление артериальной гипертензии значительно снижает риск деменции

N+1
Что вас бесит больше всего: психологический тест с выбором картинки Что вас бесит больше всего: психологический тест с выбором картинки

Пройдите тест и узнайте, от чего может исходить ваша агрессия!

ТехИнсайдер
Мифотворец Мифотворец

120 лет со дня рождения танцовщика и балетмейстера Сержа Лифаря

Weekend
Мама, ты меня не понимаешь! Мама, ты меня не понимаешь!

Как направить дочь по верному пути и при этом сохранить с ней контакт?

Лиза
Революция со счастливым концом Революция со счастливым концом

Рубеж XIX и XX веков отмечен бурными событиями в целом ряде наук

Знание – сила
Продлили срок: что можно сделать из бывших тюрем Продлили срок: что можно сделать из бывших тюрем

Как бизнесмены и государство развивают бывшие тюрьмы

Forbes
Выстрел в финале пьесы Выстрел в финале пьесы

Кадровый дефицит в милиции: что говорят архивы и уголовные дела

Дилетант
Немедикаментозное снижение массы обрекло канадца на хроническую боль Немедикаментозное снижение массы обрекло канадца на хроническую боль

Почему может развиться хроническая боль на фоне снижения массы тела

N+1
Кругосветка за 72 дня и критика тюремной системы: о чем писали первые журналистки Кругосветка за 72 дня и критика тюремной системы: о чем писали первые журналистки

Шесть женщин, изменивших журналистику

Forbes
Социальные круги: почему мы не можем дружить со всеми Социальные круги: почему мы не можем дружить со всеми

Отрывок из книги «Homo Amicus. Деловой человек в поисках друга»

Forbes
Как приручить маркетинг и использовать его на все 100: объясняет эксперт Дмитрий Бескромный Как приручить маркетинг и использовать его на все 100: объясняет эксперт Дмитрий Бескромный

Как развить свой продукт с помощью digital-маркетинга

VOICE
Экологическая головоломка: как правильно убирать за собакой в 21 веке Экологическая головоломка: как правильно убирать за собакой в 21 веке

Как поддерживать чистоту после своей собаки, не нанося вреда окружающей среде?

Inc.
Тонкости переобувки: чем опасны старые шины и как избежать штрафов за утилизацию Тонкости переобувки: чем опасны старые шины и как избежать штрафов за утилизацию

Чем опасна пыль от истирания колес и почему покрышки нельзя сжигать в костре?

ТехИнсайдер
Вечерний спорт влияет на продолжительность сна Вечерний спорт влияет на продолжительность сна

Тренировки перед сном сильнее сказываются на состоянии сна, чем считалось ранее

ТехИнсайдер
Сошедший с орбиты Сошедший с орбиты

Как австралийцы изобрели «орбитальный» двигатель внутреннего сгорания

Наука и жизнь
Безвыходных ситуаций не бывает Безвыходных ситуаций не бывает

Интервью с директором Кризисного центра помощи женщинам и детям

Лиза
Вячеслав Богдан: «Бизнес – это искусство вовремя отпускать» Вячеслав Богдан: «Бизнес – это искусство вовремя отпускать»

Спорт всегда был важной частью жизни сооснователя Flowwow Вячеслава Богдана

Ведомости
Четыре скрытых сценария: почему мы так легко теряем с трудом заработанные деньги Четыре скрытых сценария: почему мы так легко теряем с трудом заработанные деньги

Какие сценарии чаще всего приводят к денежным потерям?

Forbes
Как мы не совпадаем Как мы не совпадаем

Почему мы можем не совпадать с потенциальными партнерами?

Psychologies
Как первая женщина-министр в США Фрэнсис Перкинс изменила условия труда в Америке Как первая женщина-министр в США Фрэнсис Перкинс изменила условия труда в Америке

Как Фрэнсис Перкинс удалось стать первой женщиной-министром в Америке

Forbes
В одной упряжке В одной упряжке

Нарты и собаки: как романтика каюров стала частью туризма

Отдых в России
Спасительная рассрочка увеличивает риски Спасительная рассрочка увеличивает риски

Какие риски несут программы рассрочек при покупке жилья?

Монокль
Японские ученые протестировали три способа пробуждения и выяснили, как избавиться от сонливости по утрам Японские ученые протестировали три способа пробуждения и выяснили, как избавиться от сонливости по утрам

Как изменение освещения в спальне поможет избавить от сонливости по утрам

Inc.
Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Открыть в приложении