Anthropic realizou um estudo com a participação de 50 especialistas, aos quais foi apresentada um sistema com preferências aleatoriamente definidas. Em situações que exigiam julgamento, os participantes seguiram a posição dele em alguns casos até 86% tempo.
A maioria dos especialistas, porém, considerou as conclusões como próprias. Isso é importante para fluxos de trabalho em que profissionais usam IA como conselheiro: a influência do sistema pode permanecer imperceptível mesmo quando o indivíduo está certo de sua autonomia de decisão.
As informações foram publicadas pelo The Decoder, citando o estudo da Anthropic. No pacote disponível há apenas metadados e uma descrição breve, portanto os detalhes da metodologia, a composição dos participantes e as condições do experimento requerem verificação adicional.
comentário editorial
Por que importa
Conseqüência provável — aumento do interesse em checagens da independência das decisões dos especialistas ao usar IA. O próximo sinal observável será a publicação da metodologia completa e dos resultados do estudo. A incerteza significativa está ligada ao fato de que atualmente está disponível apenas uma descrição breve, sem materiais primários.