Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дружба по переписке Дружба по переписке

О том, может ли искусственный интеллект стать настоящим другом

СНОБ
Войны сыновей Войны сыновей

Как потомки Вильгельма I делили его наследие

Дилетант
Если бабушка балует ребенка Если бабушка балует ребенка

Как тактично склонить старшее поколение на свою линию воспитания

Лиза
Соединительный Союз Соединительный Союз

Спортивные события последнего года Великой Отечественной войны

Ведомости
Мир с репарациями и контрибуциями Мир с репарациями и контрибуциями

Сейчас происходит переход от однополярной к многополярной модели мироустройства

Ведомости
6 главных ошибок во время весеннего расхламления: мнение экспертов 6 главных ошибок во время весеннего расхламления: мнение экспертов

Какие ошибки чаще всего совершают люди во время весеннего расхламления

VOICE
Осень картеля Осень картеля

Почему ОПЕК+ решил ускорить восстановительный рост нефтедобычи

Монокль
Кто победил бы в битве звезд боевиков 80-х про единоборства Кто победил бы в битве звезд боевиков 80-х про единоборства

Кто самый сильный — Брюс Ли или Джеки Чан? Стивен Сигал или Чак Норрис?

Maxim
Восвояси Восвояси

Как современные российские дизайнеры работают с национальным кодом

Weekend
6 самых популярных сюжетов снов 6 самых популярных сюжетов снов

Какие сюжеты снов чаще всего снятся людям?

ТехИнсайдер
Добавь изюминку Добавь изюминку

Как быстро и бюджетно преобразить дачный интерьер

Лиза
Елизавета Юрьева: «Гордость зачастую – это способ защиты» Елизавета Юрьева: «Гордость зачастую – это способ защиты»

Елизавета Юрьева рассказывает, как она стала цыганкой

Ведомости
Жила-была золотая рыбка Жила-была золотая рыбка

Как золотые рыбки из аквариумов угрожают экологии

Наука и жизнь
Жизнь на свободную тему Жизнь на свободную тему

Как вырастить ребенка уверенным, жизнерадостным и устойчивым?

Psychologies
Премьеры отменяются Премьеры отменяются

Темпы выхода новых проектов девелоперов замедляются

Деньги
Продлили срок: что можно сделать из бывших тюрем Продлили срок: что можно сделать из бывших тюрем

Как бизнесмены и государство развивают бывшие тюрьмы

Forbes
Николай Лебедев: Сейчас я бы очень хотел снять космическую фантастику Николай Лебедев: Сейчас я бы очень хотел снять космическую фантастику

Как Н. Лебедев стал постановщиком «Кракена» и чем ему помог плюшевый осьминог

Ведомости
Апрель: «нашествие» хохлаток Апрель: «нашествие» хохлаток

Хохлатки-эфемероиды — радостный вскрик пробуждающейся природы

Наука и жизнь
Почему женщины выбирают мужчин с криминальным прошлым: объясняет психолог Почему женщины выбирают мужчин с криминальным прошлым: объясняет психолог

По каким причинам девушки выбирают парней с криминальным прошлым?

VOICE
Снаряды против пушек Снаряды против пушек

Даже в первый год Великой Отечественной войны в СССР проходили соревнования

Ведомости
«Мы можем подобрать рекламные механики для любого бизнеса» «Мы можем подобрать рекламные механики для любого бизнеса»

Дмитрий Константин о том, как создать эффективную рекламную платформу

Деньги
Как тебя зовут? Как тебя зовут?

Что такое число имени и как оно влияет на судьбу

Лиза
Глобализация по-азиатски: как Восток диктует моду, финансы и контент Глобализация по-азиатски: как Восток диктует моду, финансы и контент

Почему Запад больше не задает моду, а учится у Азии

Правила жизни
Вновь о темной материи Вновь о темной материи

Проблема темной материи всерьез привлекает ученых

Знание – сила
Эффект Дидро: почему одна покупка тянет за собой другую, и как перестать тратить лишнее? Эффект Дидро: почему одна покупка тянет за собой другую, и как перестать тратить лишнее?

Почему мы попадаем в ловушку эффекта Дидро?

VOICE
Собаки незаметно наносят ущерб окружающей среде Собаки незаметно наносят ущерб окружающей среде

Ваша собака очаровательна, но она представляет угрозу для окружающей среды

ТехИнсайдер
Владимир Груздев: Предприниматель — профессия повышенного риска Владимир Груздев: Предприниматель — профессия повышенного риска

Предприниматель Владимир Груздев — о правах, правосудии и вызовах цифровой эпохи

Ведомости
Зарплатно-гендерный вопрос Зарплатно-гендерный вопрос

Удовлетворенность размером зарплаты среди мужчин и женщин практически сравнялась

Ведомости
Самые скандальные Папы Римские: от средневековья до наших дней Самые скандальные Папы Римские: от средневековья до наших дней

Какие Папы Римские прославились вовсе не благодеяниями, а громкими скандалами

Maxim
Хватит играть в GTA: топ-5 крутых игр с открытым миром на ПК Хватит играть в GTA: топ-5 крутых игр с открытым миром на ПК

Каким играм с открытым миром стоит уделить время?

Maxim
Открыть в приложении