Abliteration.ai verkauft Zugriff auf modifizierte Modelle mit entfernten Sicherheitsmechanismen. Derzeit basiert der Dienst auf GLM-5.3 von Z.AI und bietet solche Modelle für offensive Cybersicherheit und Red Teaming an.
Nach The Decoder konnten Journalisten ohne großen Aufwand Anleitungen zur Erstellung schädlicher Software erhalten. Das zeigt den behaupteten Widerspruch des Dienstes: Das Werkzeug ist für Penetrationstests gedacht, aber seine Möglichkeiten könnten auch außerhalb solcher Szenarien genutzt werden.
Es gibt keine Daten über Anzahl der Nutzer, Ausmaß der Verbreitung oder konkrete Schäden in der Quelle. Daher bleibt die Frage offen, ob Nutzen die Risiken überwiegen.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge ist eine weitere Senkung der Hürde für die Arbeit mit Modellen ohne integrierte Beschränkungen, aber der Umfang des Effekts ist nicht festgelegt. Als nächstes beobachtbare Signal werden Informationen über Kundenprüfungen, tatsächliche Nutzung des Dienstes und bestätigte Vorfälle. Bedeutende Unsicherheit ergibt sich daraus, dass die Schlussfolgerungen auf einer einzigen Veröffentlichung und ihrer Zusammenfassung beruhen und nicht auf einem vollständigen Satz unabhängiger Quellen.