Cloudflare teilte mit, dass eine Inkonsistenz der GLM5.3 Konfiguration in Workers AI zu einem SGLang-Fehler führte. Infolgedessen wurden KV-Cache-Seiten zwischen verschiedenen Anfragen geöffnet.
Das Unternehmen erklärte außerdem, dass das Problem mittels Korrekturmaßnahmen in SGLang behoben wurde. In der verfügbaren Beschreibung werden weder der Zeitraum des Vorfalls, noch die Anzahl der betroffenen Anfragen oder die Art der möglicherweise offengelegten Daten genannt.
Der Vorfall ist insofern bedeutsam, als er das Risiko eines grenzübergreifenden Zugriffs auf in KV gespeicherte Daten in Systemen erhöht, die KV-Cache zur Beschleunigung der Modellergebnisse nutzen. Die Quelle wird jedoch nur als kurze Zusammenfassung von Cloudflare präsentiert, ohne unabhängige Bestätigung oder detaillierte technische Analyse.
redaktioneller Kommentar
Warum es wichtig ist
Voraussichtliche Folge ist eine verstärkte Aufmerksamkeit auf Die ISOLATION des Caches und die Kompatibilität von Konfigurationen in Systemen, die Modelle ausführen. Als nächstes beobachtbares Zeichen wird die Veröffentlichung technischer Details von Cloudflare, der Ausmaß der betroffenen Anfragen und eine Beschreibung der Korrekturen sein. Bedeutende Unsicherheit bleibt aufgrund fehlender Gesamttexte und unabhängiger Bestätigung bestehen.