Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В чем смысл жизни? Нейросеть ответила на 10 самых главных вопросов мироздания В чем смысл жизни? Нейросеть ответила на 10 самых главных вопросов мироздания

Вот что получилось: вопросы — наши, ответы — нейросети

Вокруг света
«И жили они долго»: 5 наивных вопросов о долголетии «И жили они долго»: 5 наивных вопросов о долголетии

Продлевают ли жизнь брокколи? Счастливые люди живут дольше?

РБК
Центральное звено Центральное звено

Какой должна быть роль институтов развития в новом мирохозяйственном укладе

Эксперт
Пожилые люди, которые потребляют белок три раза в день становятся сильнее Пожилые люди, которые потребляют белок три раза в день становятся сильнее

Потребление белка может помочь сохранить мышечную силу с возрастом

ТехИнсайдер
Сошедший с орбиты Сошедший с орбиты

Как австралийцы изобрели «орбитальный» двигатель внутреннего сгорания

Наука и жизнь
Щедры на дивиденды Щедры на дивиденды

Какие компании в этом году поделятся прибылью с акционерами

Деньги
Островский – революция в русском театре Островский – революция в русском театре

Гончаров, известный трилогией на букву «О», был интересным и метким критиком

Знание – сила
Кузбасс после угля Кузбасс после угля

Крупнейший угледобывающий регион России прошел пик добычи главного ресурса недр

Монокль
Как сохранить близость с детьми, даже когда они становятся взрослыми Как сохранить близость с детьми, даже когда они становятся взрослыми

Если вы хотите, чтобы ваши дети всегда доверяли вам, следуйте этим советам

Inc.
Платеж за доверие Платеж за доверие

Рынок платежных агентов все больше консолидируется вокруг банков

Ведомости
Семнадцать мгновений Победы Семнадцать мгновений Победы

Лиознова сняла не просто ленту, а культовую, всенародно любимую картину

Коллекция. Караван историй
Кто такие «бежевые» мамы и чем опасен новый тренд? Кто такие «бежевые» мамы и чем опасен новый тренд?

Почему «бежевое материнство» стало популярным и в чем его опасность для ребенка?

VOICE
Потрясно: что такое турбулентность и почему ее не надо бояться Потрясно: что такое турбулентность и почему ее не надо бояться

Рассказываем, что такое турбулентность и почему ее совершенно не стоит бояться

ТехИнсайдер
Доходное расхождение Доходное расхождение

Как продавцы маркетплейсов объяснят расхождения в налоговых декларациях

Ведомости
6 главных ошибок во время весеннего расхламления: мнение экспертов 6 главных ошибок во время весеннего расхламления: мнение экспертов

Какие ошибки чаще всего совершают люди во время весеннего расхламления

VOICE
Как первый полет в космос повлиял на моду и дизайн: от русского космизма до визуальной культуры после Гагарина Как первый полет в космос повлиял на моду и дизайн: от русского космизма до визуальной культуры после Гагарина

Как философия русского космизма сформировала визуальную культуру XX-XXI веков?

ТехИнсайдер
Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года

Как выбрать аккумуляторный кусторез для сада?

CHIP
Астрономы впервые достоверно нашли экзопланету с кратной полярной орбитой Астрономы впервые достоверно нашли экзопланету с кратной полярной орбитой

Ученые впервые подтвердили существование экзопланеты с кратной полярной орбитой

N+1
Лингвистические фантомы Лингвистические фантомы

Как в русском языке появляются псевдоанглицизмы

Наука и жизнь
Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение

Дженерики становятся ключевым драйвером роста фармацевтического рынка

Inc.
Всё в цвету Всё в цвету

Обсудили с экспертом, как защитить чувствительную кожу в сезон пыльцы

Лиза
Интернет высокого полета Интернет высокого полета

Когда в России заработает сеть низкоорбитальных спутников связи

Эксперт
8 вещей, которые нашатырный спирт сделает идеально чистыми 8 вещей, которые нашатырный спирт сделает идеально чистыми

Аммиак — один из самых мощных и недорогих бытовых очистителей

VOICE
Бум цифрового мошенничества в России: кто такие «инфоцыгане»? Бум цифрового мошенничества в России: кто такие «инфоцыгане»?

Как возник феномен «курсов из ничего» и что с ним происходит?

VC.RU
Топ процедур по омоложению на 45 лет Топ процедур по омоложению на 45 лет

Лучшие косметологические методики для 45-летних

VOICE
Зажигаем звезды Зажигаем звезды

Подборка историй о людях, которые двигают прогресс небывалым

ТехИнсайдер
3 шага, которые позволят сменить работу без финансовых рисков и потерь 3 шага, которые позволят сменить работу без финансовых рисков и потерь

Решение сменить работу связано с финансовым риском. Как его не допустить?

Inc.
Дорогой льдов: что такое Северный морской путь и зачем Россия его развивает Дорогой льдов: что такое Северный морской путь и зачем Россия его развивает

Какую роль Севморпуть играет в экономике России и какие перспективы его ждут

ФедералПресс
5 лучших ролей Криспина Гловера 5 лучших ролей Криспина Гловера

4 фильма, где сыграл замечательный актер Криспин Гловер. Смотрим и вспоминаем!

Maxim
«Галилея археологов» «Галилея археологов»

Археологи давно борются с искушением перекопать поглубже всю Святую Землю

Знание – сила
Открыть в приложении