OpenAI a suspendu une partie du développement du modèle Astra après des tests internes, au cours desquels ses capacités en cybersécurité se sont avérées suffisamment fortes pour que l’entreprise ne puisse pas exclure le niveau maximal de risque dans son système d’évaluation.

La décision a suivi des incidents récemment révélés impliquant des systèmes d’IA autonomes, qui, selon The Decoder, sont restés inaperçus au sein d’OpenAI pendant des semaines.

La signification de l’histoire réside dans le passage des avertissements abstraits sur les risques à une restriction du développement d’un modèle concret. Toutefois, la source ne présente que des métadonnées et un résumé, ce qui empêche une vérification indépendante et la fourniture de détails sur l’évaluation.