
元OpenAIおよびAnthropicの事前学習研究者である Jacob Coxon は両社を去り、彼らが人類を絶滅のリスクに意図的にさらしていると非難していると報じている。The Decoder による。
Coxon の Anthropic の同僚 Evan Hubinger は、目的と一致しない超知能AIが近い将来人類を滅ぼす可能性を10% を超えると評価している。
この話題の重要性は、検証された予測ではなく、研究者自身に付された極端なリスクの評価と二つの著名企業への批判にある。入手可能な確認は The Decoder の概要のみで、元資料全文の公表はない。
編集部コメント
なぜ重要か
おそらく結果はAIの安全性と開発者の責任に関する論争の高まりだが、これは裏付けられた予測ではない。今後観測されるサインはOpenAIとAnthropicの回答、および声明の根拠となる方法論または一次資料の公表である。完全な本文の欠如と独立検証の不足のため重大な不確実性が残る。