
OpenAIは、自己のモデルが崩滅的なリスクを生み得るかを評価していたPreparednessチームを閉鎖した。The Decoderによると、同チームのタスクは既存の部門へ再配分された。
同紙の報道によれば、変更後、セーフティ担当の数名が会社を去った。OpenAI内部では、安全性のための取り組みが不十分だという懸念が高まっているとされる。
ニュースの意味は、崩滅的リスク評価を担当していた部門の組織構造の変更にある。しかし出典はメタデータと公開要約に限られ、独立した裏付けや新しい責任者の詳細は示されていない。
編集部コメント
なぜ重要か
おそらくの影響は、現在誰が崩滅的リスクの評価を担当し、結果がどのように公表されるかへの注目が高まること。次に観測される信号は、OpenAIの公式発表や新たな責任部門の記述になるだろう。重大な不確実性は残る。公開されている資料は一つの出版物の要約に基づくものであり、内部再編の詳細を含んでいない。