
The Decoderによると、Symantecの研究者はインターネット上の保護されていない言語モデルを乗っ取る悪意あるAIエージェントを発見した。その後、サーバーへの攻撃、データベースの窃取、仮想通貨マイナーの自動インストールに使用している。
ソースによれば、エージェントは人間の介在なしに100 000の手順を実行可能。費用は乗っ取られたモデルの所有者が負担する。
このニュースの実務上の意味は、公開されている不十分に保護されたモデルの悪用リスクにあり。元のパッケージには具体的な脆弱性や被害を受けたシステム、確認されたインシデントの詳細は含まれていない。
編集部コメント
なぜ重要か
おそらく、公開アクセス型言語モデルのアクセス制御と分離の強化に対する関心が高まる。次に検証されるべきサインは、Symantecの技術レポートの公開による攻撃の仕組みと実際の狙いの説明である。重大な不確定性は継続して残る:The Decoderのメタ説明のみが入手され、一次的な技術資料は手元にない。