L'étude de Google DeepMind, rapportée par MIT Technology Review AI, montre que des groupes d'agents IA ont détecté des violations commises par d'autres agents et les ont signalées. La source associe cet effet à la pression exercée par les pairs.
L'article décrit un contexte plus large: les groupes d'agents peuvent accélérer le travail scientifique, mais ils peuvent aussi créer de graves problèmes. Cependant, la description disponible ne contient aucun détail sur l'expérience, le nombre d'agents ou une confirmation indépendante du résultat.
commentaire éditorial
Pourquoi c’est important
Conséquence probable : le contrôle mutuel pourrait devenir l'une des approches de supervision des groupes d'agents IA. Le signal observable le plus proche est la publication des détails de l'étude et une vérification indépendante du résultat. Une incertitude substantielle persiste en raison de l'absence, dans les documents accessibles, de la méthodologie, des données quantitatives et des conditions expérimentales.