OpenAI は、人工知能システムが自律的に次世代の AI を生成するシナリオである「再帰的自己改善」に向けた国際基準の策定を要請した。これは The Decoder が公開メタデータに基づいて伝えた要約によるものである。
この要約によれば、保護機制がなければ人間はこのプロセスに対する制御を失う可能性がある。また OpenAI は、測定に関するグローバル基準と監視ルールの策定作業を米国が主導すべきだと考えている。
本イニシアチブの重要性は、自己改善の制御について個別の企業や国内枠組みだけでなく、国際レベルで議論しようとする点にある。ただし、入手可能な資料には、提案される基準、スケジュール、あるいはその適用機制についての詳細は含まれていない。
編集部コメント
なぜ重要か
考えられる結果として、新世代の AI 生成に関与できるシステムの評価方法と制御への注目が高まることが挙げられる。次に観測可能な兆候は、測定、保護機制、あるいは監視ルールに関する具体的な提案の公表となるだろう。実質的な不確実性は残っている：入手可能な要約からは、本イニシアチブに実務的な計画や国際的な支持が存在するかどうかは示されていない。