AI Now Institute の主任研究員であり、元 OpenAI セーフティエンジニアである Heidy Khlaaf は、科学的な主張は真偽の検証が可能でなければならないと述べた。これは、AI が人類絶滅をもたらすかどうかという議論に対する彼女のコメントである。
Khlaaf によれば、検証可能性の要件は、科学的論証が宗教的信念のような性質を帯びることを防ぐために必要である。利用可能な資料の説明には、特定のシステム、シナリオ、または実施された研究に関する追加の詳細は含まれていない。
この発言の意義は、検証可能なリスク評価と、確認も反証も不可能な主張とを区別するよう求める点にある。しかし、提示された情報パッケージには AI Now Institute の出版物の概要のみが含まれており、その立場や経験的検証についての独立した確認は提供されていない。
編集部コメント
なぜ重要か
考えられる結果として、極端な AI リスクに関する主張の定式化と証明に対する要件が強化されるであろう。次の観測可能な兆候は、検証手法の公表、研究成果、または特定のシナリオに関する独立した評価となるだろう。 substantial な不確実性が残っている：情報源では、そのような詳細を欠いた短い概要のみが入手可能である。