
The DecoderによるとOpenAIのCEOサム・アルトマンは社内プレゼンテーションでAIの安全性を確保する三つのシナリオを提示した。そのうち一つは国際原子力機関(IAEA)をモデルにした国際監視機関、別のシナリオは大手研究所の統合、三つ目は他のすべての企業の計算資源を停止させ得るほど強力な企業。
最後の案はアルトマンが「おぞましい」と呼んだとされる。情報源の要約によるとこのように、国際的な協調、開発者の集中化、計算能力の concentraciónという三つの観点が並べて示されている。
この報告で重要なのは証拠の性質であり、The Decoderの要約だけが存在し、プレゼン資料の全文やOpenAIやアルトマン自身の公式発表は確認できない。プレゼンがいつ、誰に対して行われたか、これらの案が実際の計画として提案されたものか、それとも思考実験としての検討だったのかは不明である。
編集部コメント
なぜ重要か
もし要約が正確であれば、次に重要な兆候となるのはプレゼン資料の全文公開またはOpenAIや他の研究所の公的な反応の出現である。潜在的な影響として、国際的な監視と計算資源の集中の議論が強まる可能性があるが、提案の内容と現状はまだ十分に確認されていない。