Anthropic の CEO である Dario Amodei は、最先端の AI 開発における「ペース抑制」の計画を発表した。これには、独立した安全評価者の関与と、民主主義国の AI 研究所間での調整が含まれる。
TechCrunch AI によれば、このイニシアチブは業界の一部から支持を得ている一方、Nvidia の Jensen Huang からは批判に直面している。この提案の背景には、先週 AI 業界に懸念を広げた Anthropic の研究者による破滅的シナリオへの警告がある。
このイニシアチブの意義は、発表された結果ではなく、提案された監督アーキテクチャ、すなわち外部検証と調整が研究所の内部意思決定を補完すべきという点によって現時点では定義されている。しかし、利用可能な資料は出版物の簡潔な概要に過ぎないため、詳細、評価基準、および計画の実践的なステータスは不明のままとなっている。
編集部コメント
なぜ重要か
考えられる帰結としては、AI 研究所に対する外部安全検証と共同ルールに関する議論が活発化することが挙げられる。次の観察可能な兆候は、計画の詳細または参加者による公式声明の公表となるだろう。提案文の全文と、その支持に関する確認されたデータが欠如していることに関連する重大な不確実性が残っている。