Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дженнифер Энистон. «Друзья» навсегда Дженнифер Энистон. «Друзья» навсегда

«Девчонка из соседнего двора» или «Американская любимица»

Караван историй
Невролог назвал 3 ошибки, которые люди совершают в молодости. Их можно исправить прямо сейчас Невролог назвал 3 ошибки, которые люди совершают в молодости. Их можно исправить прямо сейчас

Три вещи, которых можно избежать в молодости

Inc.
Топ-5 самых странных игровых консолей в истории — от 1970-х до 2020-х Топ-5 самых странных игровых консолей в истории — от 1970-х до 2020-х

Самые необычные игровые консоли

CHIP
Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение

Дженерики становятся ключевым драйвером роста фармацевтического рынка

Inc.
6 продуктов с высоким содержанием протеина и низким содержанием калорий 6 продуктов с высоким содержанием протеина и низким содержанием калорий

Список лучших низкокалорийных продуктов, богатых белком

ТехИнсайдер
Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как! Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как!

О пользе обычного кофе известно немало, а что насчет пользы холодного напитка?

ТехИнсайдер
«Мои родственники защищали Москву»: Яна Сексте впервые снялась в фильме о войне «Мои родственники защищали Москву»: Яна Сексте впервые снялась в фильме о войне

Яна Сексте — о съемках в военной драме «В списках не значился»

VOICE
От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России

Зачем нужна биометрия и как ее использовать в России

ТехИнсайдер
Войны сыновей Войны сыновей

Как потомки Вильгельма I делили его наследие

Дилетант
Заемщики поубавили аппетит Заемщики поубавили аппетит

Почему у граждан снижаются запросы на размер кредитов наличными?

Ведомости
Во имя автомобиля Во имя автомобиля

Автокомпании выпускают не только машины: от тракторов до часов и детских колясок

Men Today
Экологическая головоломка: как правильно убирать за собакой в 21 веке Экологическая головоломка: как правильно убирать за собакой в 21 веке

Как поддерживать чистоту после своей собаки, не нанося вреда окружающей среде?

Inc.
Каждая десятая Каждая десятая

Об эндометриозе, его симптомах и способах справиться с болезнью

VOICE
Банки вкладывают в инклюзию Банки вкладывают в инклюзию

В Т-банке появилась поддержка только с глухими и слабослышащими сотрудниками

Ведомости
Питание по расписанию. Без чувства голода Питание по расписанию. Без чувства голода

Достичь идеального веса, не голодая? Это возможно с хронодиетой

Лиза
Мария Андреева: «Нам самим круче, когда близкому хорошо» Мария Андреева: «Нам самим круче, когда близкому хорошо»

Мария Андреева: страх перед возрастными ролями и недоумение от молодых актеров

VOICE
Монеты в восточной пыли Монеты в восточной пыли

Важным источником наших знаний об античной истории являются монеты

Знание – сила
Российское бьюти-чудо: как меняется отечественная индустрия косметики Российское бьюти-чудо: как меняется отечественная индустрия косметики

Как российская косметика становится полноценным трендсеттером

РБК
Непростая материя Непростая материя

Секреты, которые скрывают узоры ивановских тканей

Вокруг света
Время спать Время спать

Хотите впасть в спячку до весны? Теоретически для этого нет никаких препятствий

ТехИнсайдер
День любви День любви

Реальная история святого Валентина, не имевшая отношения к романтике

Дилетант
Конкуренты Конкуренты

Какими они были, конкуренты герцога Нормандского?

Дилетант
Сарацинка, воительница, христианка Сарацинка, воительница, христианка

В эпоху джахилийи у разных племен бедуинов положение женщин различалось

Знание – сила
Савва и Мария Савва и Мария

Мария Червоткина о материнском фэшн-пути и окситоциновых слезах

Собака.ru
«Обогащайтесь!» «Обогащайтесь!»

От старшего брата тамбовцам остались легенды — и мрачное пророчество

Дилетант
8 самых грустных фильмов про собак 8 самых грустных фильмов про собак

Эти фильмы про собак точно тронут вас за душу

Maxim
52 дня под водой: чем закончился рекордный эксперимент советской глубоководной станции «Черномор» 52 дня под водой: чем закончился рекордный эксперимент советской глубоководной станции «Черномор»

Как проходил эксперимент по самому длительному пребыванию акванавтов под водой

ТехИнсайдер
Смена сторон Смена сторон

Почему теннисисты меняют спортивное гражданство и выступают за другие страны

Ведомости
Поднять ставки Поднять ставки

Высокие проценты по вкладам в банке: в чем подвох

Лиза
Право на смелость Право на смелость

Певица Люся Чеботина и психолог Анетта Орлова — о любви к себе и сепарации

Psychologies
Открыть в приложении