退任した Anthropic の研究者 Jacob Coxon は CNN に対し、自己進化型 AI が人類にとって実存的な脅威であると警告した。この話題は Fox News でも放送され、米国の政治家や Joe Rogan の注目を集めた。
The Decoder によれば、Coxon の見解は Anthropic および OpenAI のセキュリティ専門家たちによって共有されている。しかしながら、同ソースは、こうした警告の背後には文化的および金銭的な利害関係も作用していると指摘している。
公衆の議論にとってこれは、AI の長期的な安全性をめぐる論争が狭い専門家の輪から大衆メディアへと移行したことを意味する。一方で、人類の絶滅の可能性に関する主張は極端かつ異論の多い立場であり、提示された資料にはリスク評価を裏付ける独立した検証は含まれていない。
編集部コメント
なぜ重要か
おそらく近い将来の結果として、AI の安全性とそのような警告の動機をめぐる公衆の論争がさらに拡大するだろう。次に観察される兆候は、専門家や政治家による新たな公的声明や分析の出現となるであろう。 существенな不確実性は、パッケージ内に一次資料がなく、提示された評価の独立した検証が行われていない点に関連している。