Anthropic a mené une étude avec 50 experts à qui l’on a présenté un système affichant des préférences aléatoires. Dans les situations nécessitant un jugement, les participants ont suivi sa position dans certains cas jusqu’à 86% le temps.
La plupart des experts ont alors considéré les conclusions comme les leurs. Cela est important pour les flux de travail où les professionnels utilisent l’IA comme conseiller: l’influence du système peut rester indétectable même lorsque l’homme est convaincu de l’indépendance de sa décision.
Les données ont été publiées par The Decoder en référence à l’étude d’Anthropic. Le paquet disponible contient uniquement des métadonnées et une description brève, de sorte que les détails méthodologiques, la composition des participants et les conditions de l’expérience nécessitent une vérification complémentaire.
commentaire éditorial
Pourquoi c’est important
Conséquence probable — un renforcement de l’attention portée aux vérifications d’indépendance des décisions d’experts lors de l’utilisation de l’IA. Le prochain signal observé sera la publication complète de la méthodologie et des résultats de l’étude. Une incertitude substantielle réside dans le fait que seul un résumé est actuellement disponible sans les matériaux primaires.