Anthropic の最高経営責任者 Dario Amodei は AI の開発の速度を遅らせるべきだと主張している。TechCrunch AI と The Verge AI の報道によれば、彼は安全性の実践と規制当局によるモデル評価のための“三段階の計画”を提示し、企業に時間を与えるとともに規制当局にモデルを評価させるべきだと述べた。
第一歩として Anthropic は METR を含む外部評価者に対し、セーフガードと安全性の実践・義務を確認するためのモデルへの広範なアクセスを自社で提供することを挙げている。提供されている説明では、このステップを同社が自発的に行うとされている。
資料にはまた、Sam Altman と Amodei が「ペースを落とす」という考えにおいて概ね一致しているように見える一方で、計画の全体像や期間、他の開発者の義務の具体的な内容は現状の情報では不明だ。
編集部コメント
なぜ重要か
おそらく外部評価者の役割強化と新モデルのリリース前のより正式な手順の出現が今後の結果として予想される。次に観測されるサインは、三段階計画の詳細公開や他の開発者による具体的義務の確認になるだろう。入手可能な資料量が限られており一次声明の不在のため、重大な不確実性は依然として残る。