Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

У зла нет возраста: за что советская власть приговорила подростков к смертной казни У зла нет возраста: за что советская власть приговорила подростков к смертной казни

Подростки, казненные в Советском союзе

ТехИнсайдер
Липецк: за рулем и пешком Липецк: за рулем и пешком

Как в Липецкой области мастера восстанавливают связь между прошлым и настоящим

Вокруг света
Нестандартные страховки Нестандартные страховки

В страховом бизнесе развиты необычные полисы под нестандартные решения

Ведомости
Банки вкладывают в инклюзию Банки вкладывают в инклюзию

В Т-банке появилась поддержка только с глухими и слабослышащими сотрудниками

Ведомости
Читай Читай

5 захватывающих графических романов

VOICE
Как перестать повторять одни и те же ошибки: советы психолога Как перестать повторять одни и те же ошибки: советы психолога

Почему мы возвращаемся к старым ошибкам и как выйти из замкнутого круга?

VOICE
Жертвы Кургана: подвиги и самоотдача города трудовой доблести Жертвы Кургана: подвиги и самоотдача города трудовой доблести

Линия фронта проходит возле твоего станка — таким был лозунг курганских рабочих

ФедералПресс
Ход слоном Ход слоном

Почему та или иная страна становится передовой, а потом вдруг отстающей?

ТехИнсайдер
Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели

Какими качествами должны обладать эффективные лидеры и сотрудники

Inc.
Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет

Почему женщины склонны впадать в эзотерику в молодом возрасте, а мужчины в 50

Psychologies
Найденная рыбаками на дне Тайваньского пролива древняя челюсть принадлежала денисовцу Найденная рыбаками на дне Тайваньского пролива древняя челюсть принадлежала денисовцу

Кусок нижней челюсти архаичного человека Penghu-1 принадлежал денисовцу

N+1
7 советов тем, кто работает в офисе 7 советов тем, кто работает в офисе

О чем важно помнить, чтобы избежать «офисного синдрома»?

Здоровье
Бомбардировки, голод, штурм: как Калининград встречал конец войны Бомбардировки, голод, штурм: как Калининград встречал конец войны

Как принималось решение о том, что кенигсбергская земля отойдет Союзу

ФедералПресс
Время спать Время спать

Хотите впасть в спячку до весны? Теоретически для этого нет никаких препятствий

ТехИнсайдер
Космический буксир: мирный атом или ненаучная фантастика? Космический буксир: мирный атом или ненаучная фантастика?

Чем интересна перспектива использования ядерного двигателя в космосе?

Наука и техника
Беспределы роста. Для избранных? Беспределы роста. Для избранных?

Как будет развиваться глобальная энергетика в ближайшую четверть века

Монокль
Исследование обнаружило связь между финансами и здоровьем Исследование обнаружило связь между финансами и здоровьем

Психологи выяснили, что удовлетворенность финансами связана с лучшим здоровьем

Inc.
Венгерская хроника Венгерская хроника

Михай Зичи: хроникёр придворной жизни России XIX в акварели

Дилетант
«Сейчас период повышения внутренней эффективности» «Сейчас период повышения внутренней эффективности»

Дмитрий Фосман — о перспективах развития экспорта и работе по привлечению кадров

Агроинвестор
Матч-пойнт Матч-пойнт

В чем феномен падела, как начать в него играть и насколько он травмоопасен?

Men Today
«И всюду он гусар» «И всюду он гусар»

Лейб-гвардию Гусарского полка восторженно воспевали в стихах и на полотнах

Дилетант
Почему взрослые дети не уважают зрелых родителей: мнение и советы психоаналитика Почему взрослые дети не уважают зрелых родителей: мнение и советы психоаналитика

Почему мы считаем родительские убеждения устаревшими и обесцениваем их опыт

Psychologies
«Мировое разделение труда — вещь очень ненадежная» «Мировое разделение труда — вещь очень ненадежная»

О работе самого большого промышленного холдинга страны, госкорпорации «Ростех»

Эксперт
Рукопожатие крепкое Рукопожатие крепкое

Как развивается рынок высокотехнологичных протезов

Эксперт
В одной упряжке В одной упряжке

Нарты и собаки: как романтика каюров стала частью туризма

Отдых в России
Витаминный конфликт Витаминный конфликт

Что такое антивитамины и почему их стоит знать?

Лиза
Почему женщины выбирают мужчин с криминальным прошлым: объясняет психолог Почему женщины выбирают мужчин с криминальным прошлым: объясняет психолог

По каким причинам девушки выбирают парней с криминальным прошлым?

VOICE
8500 лет назад охотники-собиратели ходили по морю на Мальту 8500 лет назад охотники-собиратели ходили по морю на Мальту

Охотники-собиратели пересекали от 100 км открытой воды, чтобы достичь островов

ТехИнсайдер
Самые научно точные фильмы про космос Самые научно точные фильмы про космос

Существуют ли достоверные художественные фильмы про космос?

Maxim
Дорожная карта Дорожная карта

Фильмы, которые помогут увидеть мир

Лиза
Открыть в приложении