
La directrice scientifique de l'AI Now Institute et ancienne ingénieure en sécurité chez OpenAI, Heidy Khlaaf, a déclaré que les affirmations scientifiques doivent permettre une vérification de leur véracité ou de leur fausseté. Elle a fait ce commentaire dans le cadre des débats sur la capacité de l'IA à provoquer la disparition de l'humanité.
Selon Khlaaf, l'exigence de vérifiabilité est nécessaire pour que les arguments scientifiques n'adoptent pas le caractère de croyances religieuses. La description disponible du matériel ne contient aucun détail supplémentaire sur des systèmes spécifiques, des scénarios ou des recherches menées.
La portée de cette déclaration réside dans l'appel à distinguer les évaluations de risques vérifiables des affirmations qu'il est impossible de confirmer ou de réfuter. Cependant, le dossier présenté ne contient qu'un synopsis de la publication de l'AI Now Institute et n'offre aucune confirmation indépendante de la position ni de sa validation empirique.
commentaire éditorial
Pourquoi c’est important
Conséquence probable : un renforcement des exigences concernant la formulation et la preuve des affirmations sur les risques extrêmes de l'IA. Le prochain signal observable serait la publication de méthodes de vérification, de résultats de recherche ou d'évaluations indépendantes de scénarios spécifiques. Une incertitude substantielle demeure : seule une brève synthèse est disponible dans la source, sans ces détails.