Anthropic と OpenAI は、自社の AI ラボ内に独立した安全性評価者を配置したいと考えている。研究者たちは、TechCrunch AI が報じるこの前例のないアクセスを歓迎している。
主な疑問は、このような評価者が実際に独立して行動できるかどうかである。情報源によると、実質的な監視のためには、検査者の透明性と自律性が必要となる。
情報源はさらなる条件として規制を指摘している。提示された資料には、評価者の構成、権限、活動期間、または結果公表のメカニズムに関する詳細は含まれていない。
編集部コメント
なぜ重要か
考えられる結果として、AI 開発における内部監視と透明性要件への関心が高まることが挙げられる。次に観測可能な兆候は、評価者の運用規則や検査結果の具体的な公表であろう。重要な不確実性が残っている。情報源は監視モデルの仕組みを開示しておらず、企業の一次声明も含まれていない。