OpenAI a fermé l'équipe Preparedness, qui évaluait si les propres modèles de l'entreprise pouvaient engendrer des risques catastrophiques. Selon The Decoder, ses tâches ont été réparties entre les unités existantes.
Selon le même média, après les changements, plusieurs employés travaillant sur la sécurité ont quitté l'entreprise. À l'intérieur d'OpenAI, on affirme que l'inquiétude grandit quant au fait que l'entreprise fasse pas assez pour la sécurité.
L'importance de la nouvelle réside dans le changement de la structure organisationnelle du secteur responsable de l'évaluation des risques potentiellement catastrophiques. Cependant la source est présentée uniquement par les métadonnées et le synopsis de la publication, sans vérification indépendante ni détails sur les nouveaux détenteurs de ces tâches.
commentaire éditorial
Pourquoi c’est important
Conséquence probable — une attention accrue sur qui est désormais responsable des évaluations des risques catastrophiques et sur la manière dont leurs résultats sont publiés. Le prochain signe observable sera une déclaration d'OpenAI ou la description de nouveaux départements responsables. Une incertitude substantielle demeure : le matériel disponible se fonde sur le résumé d'une seule publication et ne contient pas de détails sur la réorganisation interne.