
Les chercheurs ont développé une méthodologie en quatre phases pour vérifier si les modèles de langage utilisent les signaux de leur propre confiance lorsqu'ils choisissent entre fournir une réponse ou s'abstenir. Lors de la première phase, la confiance des modèles a été mesurée sans possibilité de refuser de répondre.
L'étude a été publiée dans Nature Machine Intelligence sous le titre « Causal evidence that language models use confidence to drive behaviour ». Dans la description des travaux, la métacognition est considérée comme une évaluation de la qualité de ses propres actions cognitives, liée à un comportement adaptatif chez différentes espèces.
La source accessible contient uniquement un résumé éditorial et ne communique ni les résultats des autres phases, ni les noms des modèles étudiés, ni les indicateurs quantitatifs. Par conséquent, seule la mise en place d'un test causal est confirmée pour l'instant, et non son résultat.
commentaire éditorial
Pourquoi c’est important
Si les résultats complets confirment le lien de causalité, le prochain signal observable sera un changement durable du choix entre la réponse et l'abstention après une intervention sur le signal de confiance. Une incertitude substantielle demeure : seul un synopsis de métadonnées est fourni, sans résultats, échantillons ou description des modèles.