Selon l'article de The Decoder, dans un sondage auprès de plus de 1 500 principaux chercheurs en IA, l'estimation moyenne de la probabilité d'un scénario d'extinction lié à l'IA en 2024 était de 18%.
Le sujet a de nouveau suscité des débats suite aux déclarations des chercheurs Jacob Coxon d'Anthropic et Daniel Selsam d'OpenAI, ainsi que d'un ancien chercheur de DeepMind. Dans le récit de The Decoder, ces commentaires sont présentés comme des avertissements concernant les risques existentiels de l'IA.
L'importance de cette nouvelle ne réside pas dans la preuve d'une catastrophe inévitable, mais dans l'ampleur des désaccords et des inquiétudes au sein de la communauté professionnelle. Cependant, la source n'est disponible que sous forme d'une brève méta-description; par conséquent, les détails du sondage, la composition des participants et les fondements de l'affirmation selon laquelle cette estimation continuerait d'augmenter restent non vérifiés.
commentaire éditorial
Pourquoi c’est important
La conséquence probable est un renforcement des exigences en matière d'évaluation et de contrôle des risques liés à l'IA, mais les données disponibles ne le confirment pas directement. Le prochain signal observable sera la publication de la méthodologie du sondage et de nouvelles estimations comparables. La principale incertitude concerne la qualité de l'échantillon, l'interprétation du terme « extinction » et la croissance non confirmée de l'indicateur.