Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Может ли человек распознать текст ИИ? Вот к чему надо готовиться в будущем! Может ли человек распознать текст ИИ? Вот к чему надо готовиться в будущем!

Как скоро роботы начнут лишать людей работы?

ТехИнсайдер
Культура сбережений: зачем откладывать на завтра то, что можно потратить сегодня? Культура сбережений: зачем откладывать на завтра то, что можно потратить сегодня?

Зачем каждому гражданину нужно выработать у себя привычку делать сбережения?

Наука и техника
7 законов психологии, которые изменят твою жизнь: что о них нужно знать и как ими пользоваться 7 законов психологии, которые изменят твою жизнь: что о них нужно знать и как ими пользоваться

Что такое законы психологии и как правильно их применять

VOICE
Венгерская хроника Венгерская хроника

Михай Зичи: хроникёр придворной жизни России XIX в акварели

Дилетант
Джозефу Пулицеру — 177 лет: кем был создатель главной журналистской премии Джозефу Пулицеру — 177 лет: кем был создатель главной журналистской премии

История создателя «Оскара» в журналистике — журналиста Джозефа Пулицера

Правила жизни
Лидеры немного замедлились Лидеры немного замедлились

Топ-25 игроков увеличили выпуск комбикормов на 2,8%

Агроинвестор
Матч-пойнт Матч-пойнт

В чем феномен падела, как начать в него играть и насколько он травмоопасен?

Men Today
Остановить внутреннего паникера Остановить внутреннего паникера

Как утихомирить внутреннего тревожного паникера: советы от психотерапевтов

Psychologies
Раскрывая тайны Древнего Египта Раскрывая тайны Древнего Египта

СПбГУ уже 140 лет готовит уникальных специалистов — египтологов

Санкт-Петербургский университет
Десять цветов Десять цветов

Самые древние и почитаемые традиционные ремесла – часть культурного кода Мьянмы

Вокруг света
5 лучших ролей Криспина Гловера 5 лучших ролей Криспина Гловера

4 фильма, где сыграл замечательный актер Криспин Гловер. Смотрим и вспоминаем!

Maxim
И хочется, и колется И хочется, и колется

Совпадает ли наше мнение о косметологии с реальностью? Развеиваем мифы

Grazia
Мужчина мечты Мужчина мечты

Хочет ли Ярослав Могильников остаться в кино и как проходят его первые свидания

VOICE
Искоренить фальсификат Искоренить фальсификат

Методики проверки, испытаний, идентификации продукции нужно совершенствовать

Агроинвестор
Когда медицинские практики прошлого у нас в крови… Когда медицинские практики прошлого у нас в крови…

На протяжении почти 2000 лет для лечения болезней использовалось кровопускание

Знание – сила
«Мы можем подобрать рекламные механики для любого бизнеса» «Мы можем подобрать рекламные механики для любого бизнеса»

Дмитрий Константин о том, как создать эффективную рекламную платформу

Деньги
Добавь изюминку Добавь изюминку

Как быстро и бюджетно преобразить дачный интерьер

Лиза
Чайный театр Чайный театр

Чайная «ТИШь»: где чай становится искусством, а внимание — главным ингредиентом

Seasons of life
Там, где остановилось время Там, где остановилось время

Брюгге — город, словно застывший в пространственно-временной капсуле

Знание – сила
Его звали Олег. Воспоминания об Олеге Стриженове Его звали Олег. Воспоминания об Олеге Стриженове

Многие называли Олега Стриженова гордецом, а он просто был свободным человеком

Караван историй
Чистые помыслы Чистые помыслы

Какие существуют альтернативы традиционному дизельному топливу для яхт?

Y Magazine
Белое на белом Белое на белом

В суперъяхте Extra Time верфи Conrad Yachts есть много загадочных решений

Y Magazine
«Ангел Божий на землю спустился...» «Ангел Божий на землю спустился...»

Ирэн Юсупова — легенда своего времени, которую считали чуть ли не нимфой

Караван историй
Все на высоте Все на высоте

Пять причин поспешить к маммологу

Лиза
Принципы рационального кредитного поведения Принципы рационального кредитного поведения

Практические рекомендации потенциальным заемщикам

Наука и техника
Давайте отдыхать поездами Давайте отдыхать поездами

Как в России развивается железнодорожный туризм

Деньги
Кто особенно склонен к изменам: 3 ключевые психологические черты, подталкивающие к неверности Кто особенно склонен к изменам: 3 ключевые психологические черты, подталкивающие к неверности

Почему некоторые люди изменяют, а другие — нет?

Psychologies
Богатый старый дом Богатый старый дом

«Берлинский дом» — история московской роскоши в лицах и событиях

RR Люкс.Личности.Бизнес.
Начальник или наставник? Начальник или наставник?

Законодатель впервые дал официальное определение наставничества. Что это значит?

Ведомости
Оккульт-привет Оккульт-привет

Как сместить фокус внимания россиян с эзотерики?

Ведомости
Открыть в приложении