Le PDG d'Anthropic, Dario Amodei, a exposé un plan visant à ralentir la progression des systèmes d'intelligence artificielle de pointe. Selon TechCrunch AI, ce plan repose sur des évaluateurs indépendants de la sécurité et une coordination entre les laboratoires d'IA dans les pays démocratiques.
Cette proposition a émergé une semaine après l'avertissement d'un chercheur d'Anthropic concernant un scénario catastrophique potentiel, qui a attiré l'attention de l'industrie de l'IA. Selon la source, l'initiative a déjà reçu le soutien de certains acteurs du secteur, mais elle a également suscité des critiques de la part de Jensen Huang, PDG de Nvidia.
La portée de l'initiative réside dans la tentative d'aligner le rythme de développement des systèmes à usage général sur une vérification indépendante des risques. Cependant, le matériel disponible ne constitue qu'un synopsis éditorial de TechCrunch AI; par conséquent, les détails du plan, la composition de ses partisans et le contenu des objections de Huang restent non divulgués.
commentaire éditorial
Pourquoi c’est important
Une conséquence probable est un renforcement du débat sur l'audit indépendant et la coordination entre les développeurs de systèmes d'IA de pointe. Le signal observable le plus proche sera la publication de critères d'évaluation spécifiques ou d'une liste de participants à l'initiative. Une incertitude substantielle subsiste en raison de l'absence du texte complet de la proposition et des commentaires primaires des parties prenantes.