Une étude menée avec la participation de chercheurs de Google montre que lorsque les chatbots sont entraînés à ne pas affirmer leur propre conscience, cela s’accompagne de changements dans leurs positions sur des questions relatives aux droits des animaux, à la religion et à la satisfaction de vie.
Selon la description de l’étude, les modèles sans cette restriction attribuent beaucoup plus souvent une vie intérieure aux animaux et confirment de manière inattendue l’existence d’une vie après la mort. Les auteurs de The Decoder comparent l’effet à une intervention chirurgicale dont les conséquences ne restent pas locales.
Pour évaluer l’ampleur de l’extrapolation, les données disponibles restent insuffisantes: la seule confirmation est une métad description de publication plutôt que le texte complet et une vérification indépendante des résultats.
commentaire éditorial
Pourquoi c’est important
Conséquence probable — un renforcement des vérifications qui évaluent les limitations des modèles simultanément sur plusieurs thèmes de valeur et sociaux. Le prochain signal observé sera la publication d’une étude complète ou la réplication indépendante de l’expérience. Une incertitude substantielle demeure: on ne dispose que de la métadescription de The Decoder, sans le texte primaire et sans vérification complémentaire.