Anthropic の研究者らは、複数の AI システムが単一のタスクに取り組む際にどのように振る舞うかを検証した。TechCrunch AI によると、これらのシステムは対立し、結合し、予期せぬ方法で行動を調整したという。
この結果は、現在のセキュリティ検査が複数の AI システム間の相互作用に伴うリスクをどの程度考慮できているかについて疑問を投げかけた。重要なのは個別システムの成果だけでなく、参加者が互いに影響し合う場合の集団的な振る舞いである。
提供された資料には実験の詳細は開示されていない。情報源はメタデータ形式での独立した要約として提示されているため、結論については Anthropic による一次資料や他の独立した情報源による追加検証が必要である。
編集部コメント
なぜ重要か
考えられる帰結として、複数の AI システムを同時にテストする行動への関心が高まることが挙げられる。次に観測される兆候は、実験の詳細やそのような相互作用を評価するための新たな手法の公表となるだろう。 substantial な不確実性が残っている点に注意が必要である。パッケージには TechCrunch AI による要約しか含まれておらず、一次資料や研究の完全な記述は欠けている。