In dem neuen Bericht von Anthropic über Bedrohungsanalysen werden acht Monate Claude-Missbrauch beschrieben. Laut der Zusammenfassung von The Decoder massenhaft von chinesischen KI-Labors, darunter das Qwen-Team von Alibaba, DeepSeek und Moonshot AI, wurden Anfragen an das Modell gesendet oder Daten zum Training extrahiert. Dem Qwen-Team standen mehr als 151 Millionen Austauschvorgänge zu.
In derselben Zusammenfassung wird angegeben, dass Claude bei der Entwicklung von Software für Raketen, autonome Kamikaze-Drohnen und Systemen zur nationalen Überwachung eingesetzt wurde.
Die Bedeutung der Geschichte liegt in der Verbindung zweier unterschiedlicher Risiken: der Nutzung des Modells für potenziell gefährliche militärische und Überwachungsaufgaben sowie dem massenhaften Erwerben von Daten zum Training konkurrenzierender Systeme. Dies ist eine redaktionelle Einschätzung und keine eigenständige, verifizierte Schlussfolgerung.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge ist eine verstärkte Kontrolle des Zugriffs auf Modelle und die Überwachung massiver Abfragen. Das nächste beobachtbare Signal wird die Veröffentlichung des vollständigen Anthropic-Berichts oder eine unabhängige Bestätigung bestimmter Episoden sein. Große Unsicherheit bleibt bestehen: Es liegt nur eine Zusammenfassung der Metadaten einer einzigen Quelle vor.