Anthropicの研究者Jacob Coxonは、制御不能なAIが人類を絶滅させる可能性を懸念して、同社を辞職した。彼の同僚でAnthropicに残る人物は、これらの懸念に同意している。

Sci Am AIが引用するセキュリティ専門家は、これまで確認されたインシデントは過度な監視より監督の強化を求めるべきだと考えている。ソースは、インシデントの一覧を伝えておらず、Coxonの同僚の立場の詳細も明らかにしていない。

この報道は、長期的なAIリスク評価を巡る論争の例として重要。長期的脅威を危機的規模として捉える専門家と、既に確認されたインシデントの対策を重視する専門家との対立。入手可能な情報は、一本の独立した報道とそのメタデータに基づき、AnthropicやCoxon自身の公式声明は未発表。