Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кусочки пластика разрушают пищеварительную систему морских птиц Кусочки пластика разрушают пищеварительную систему морских птиц

Ученые описали новое заболевание морских птиц. Они назвали его «пластикоз»

ТехИнсайдер
Минеральные льготы: как работает господдержка производителей удобрений Минеральные льготы: как работает господдержка производителей удобрений

Нуждаются ли компании отрасли удобрений в дополнительной поддержке?

Forbes
Стоят ли дорогие фены своих денег: мнение парикмахеров Стоят ли дорогие фены своих денег: мнение парикмахеров

Нужен ли тебе фен за тридцать три, а не за три тысячи рублей? Давай разбираться!

VOICE
Я скоро стану мамой Я скоро стану мамой

Какие обследования и когда важно пройти будущим мамам?

Лиза
Кто такие «бежевые» мамы и чем опасен новый тренд? Кто такие «бежевые» мамы и чем опасен новый тренд?

Почему «бежевое материнство» стало популярным и в чем его опасность для ребенка?

VOICE
6 продуктов с высоким содержанием протеина и низким содержанием калорий 6 продуктов с высоким содержанием протеина и низким содержанием калорий

Список лучших низкокалорийных продуктов, богатых белком

ТехИнсайдер
Джозефу Пулицеру — 177 лет: кем был создатель главной журналистской премии Джозефу Пулицеру — 177 лет: кем был создатель главной журналистской премии

История создателя «Оскара» в журналистике — журналиста Джозефа Пулицера

Правила жизни
Собаки незаметно наносят ущерб окружающей среде Собаки незаметно наносят ущерб окружающей среде

Ваша собака очаровательна, но она представляет угрозу для окружающей среды

ТехИнсайдер
Не ешь пирожок! Не ешь пирожок!

Составляем правильное меню для тебя (без булочек!)

VOICE
Прекрасная эпоха Прекрасная эпоха

Премьерный балет «Две Анны» – посвящение двум великим женщинам Серебряного века

Grazia
Рома Peeks Рома Peeks

Рома Peeks рисует порцию кидкорных ковров и раскрывает этимологию фамилии

Собака.ru
Охота на пиратов Охота на пиратов

Как спортивные каналы и лиги борются с пиратами

Ведомости
Семь бед — одно вранье Семь бед — одно вранье

Почему барон Мюнхгаузен нужен во все эпохи

Weekend
Бруталист Бруталист

Дмитрий Нагиев — праотец мирового кинотренда на лысого русского

Собака.ru
День Д: как города США зарабатывают сотни миллионов на церемониях драфта НФЛ День Д: как города США зарабатывают сотни миллионов на церемониях драфта НФЛ

Что такое драфты и почему они вообще существуют?

Forbes
Тонны мусора: как современная экономика заставляет нас увеличивать количество отходов Тонны мусора: как современная экономика заставляет нас увеличивать количество отходов

О том, как гражданское общество в России строит систему сокращения отходов

Forbes
Распоследний магнат Распоследний магнат

«Киностудия» — самопародия голливудских остряков на киноиндустрию

Weekend
Японские ученые протестировали три способа пробуждения и выяснили, как избавиться от сонливости по утрам Японские ученые протестировали три способа пробуждения и выяснили, как избавиться от сонливости по утрам

Как изменение освещения в спальне поможет избавить от сонливости по утрам

Inc.
Миниатюрный орнитоптер стал одноногим прыгуном Миниатюрный орнитоптер стал одноногим прыгуном

Как инженеры создали робота-прыгуна массой меньше грамма

N+1
«Нынешнюю модель можно изменить только указом президента» «Нынешнюю модель можно изменить только указом президента»

Почему сегодня строится не то, что нужно обществу? Актуальная тема

Монокль
Новый папа Новый папа

«Конклав» — фильм о выборах папы римского, ставший метафорой современного мира

Дилетант
Зажигаем звезды Зажигаем звезды

Подборка историй о людях, которые двигают прогресс небывалым

ТехИнсайдер
Куда приводят мечты инженеров Куда приводят мечты инженеров

Маршрут выходного дня по Калужской области

Weekend
«Джеймс Уэбб» вновь нашел в атмосфере потенциального гикеана диметилсульфид «Джеймс Уэбб» вновь нашел в атмосфере потенциального гикеана диметилсульфид

«Джеймс Уэбб» вновь обнаружил признаки наличия диметилсульфида

N+1
Пожилые люди, которые потребляют белок три раза в день становятся сильнее Пожилые люди, которые потребляют белок три раза в день становятся сильнее

Потребление белка может помочь сохранить мышечную силу с возрастом

ТехИнсайдер
Бренд народного происхождения Бренд народного происхождения

Как в России развиваются художественные промыслы

Эксперт
Денис Филиппов: Больших проблем на рынке жилья я бы не прогнозировал Денис Филиппов: Больших проблем на рынке жилья я бы не прогнозировал

Гендиректор фонда Дом.РФ — какие арендные проекты поддерживает государство

Ведомости
Победители и побеждённые Победители и побеждённые

Противоречивый мир Англии: норманны властвовали землей, а саксы её возделывали

Дилетант
Как Мэй Хабиб заработала $285 млн на ИИ-агентах, способных заменить 90% работников Как Мэй Хабиб заработала $285 млн на ИИ-агентах, способных заменить 90% работников

Как Мэй Хабиб создает ПО на базе ИИ, которое берет на себя рутинные задачи

Forbes
Полина Гухман: «Ради роли готова к любым экспериментам с внешностью» Полина Гухман: «Ради роли готова к любым экспериментам с внешностью»

«Меня часто спрашивают: «Поля, тебе не кажется, что ты повсюду?»

Коллекция. Караван историй
Открыть в приложении