
AI Now Instituteは人工知能の脅威をめぐる論争の科学的側面に関する資料を公開した。要約の中心はХайди Хлаафの позиция: 危機的条件下でのAIの低い信頼性と精度が、人類の滅亡シナリオよりも彼女に強い懸念を生じさせる、という点である。
Хайди Хлаафは人類の完全な絶滅という脅威を恐怖の煽りと特徴づけた。公開された概要には、具体的な精度指標、システムの例、独立した研究の結果は載っていない。
実務上の意味は、AIが現実の危機的状況でどれだけ安全かを検証することにあり、単なる極端なシナリオの議論にとどまらない。しかし、現時点のデータは、問題の規模を評価したり、モデルのタイプを比較したりするには不十分である。
編集部コメント
なぜ重要か
この立場の可能性のある結果は、批判的領域でのAIの正確さと信頼性の検証に対する関心を高めること。次に観測されるサインは、完全な資料または他の情報源からの具体的なデータ、システムの例、独立評価となるだろう。重大な不確定性は、要約のみが利用可能であるために存続する。