
L'ancien salarié des relations publiques de Google DeepMind, Vishal Maini, a déclaré que le laboratoire interdisait auparavant les discussions publiques sur la possibilité que l'IA fasse disparaître l'humanité. Selon lui, une telle restriction s'appliquait à tous les niveaux de l'organisation.
Selon le même récit, au sein de l'équipe, on comprenait que le problème d'alignement de l'IA n'était pas résolu. Le témoin ne fournit pas de détails supplémentaires sur la période d'application de la règle, son statut formel ou les raisons du changement de politique.
Cette histoire est importante car elle montre un éventuel écart entre l'évaluation interne des risques et la communication externe d'un laboratoire de recherche. Mais les preuves disponibles sont limitées au synopsis de The Decoder et n'incluent pas une déclaration primaire ou une confirmation indépendante.
commentaire éditorial
Pourquoi c’est important
Conséquence probable — de nouvelles questions sur la transparence des déclarations des laboratoires sur les risques extrêmes de l’IA. Le prochain signal observé sera soit la déclaration primaire complète de Vishal Maini, soit la réponse de Google DeepMind. Une incertitude substantielle demeure: seul le synopsis de The Decoder est en circulation, sans document primaire ni seconde source indépendante.