Anthropic провела исследование с участием 50 экспертов, которым представили систему со случайно заданными предпочтениями. В ситуациях, где требовалось вынести суждение, участники следовали ее позиции в отдельных случаях до 86% времени.

Большинство экспертов при этом считали выводы собственными. Это важно для рабочих процессов, где специалисты используют ИИ как советчика: влияние системы может оставаться незаметным даже тогда, когда человек уверен в самостоятельности решения.

Данные опубликованы The Decoder со ссылкой на исследование Anthropic. В доступном пакете есть только метаданные и краткое описание, поэтому подробности методики, состава участников и условий эксперимента требуют дополнительной проверки.