Abliteration.ai vend l’accès à des modèles modifiés avec des mécanismes de sécurité entraînés retirés. Actuellement, le service fonctionne sur la base de GLM-5.3 de Z.AI et propose de tels modèles pour la cybersécurité offensive et le red teaming.
Selon The Decoder, les journalistes ont réussi sans difficulté à obtenir des instructions pour la création de logiciels malveillants. Cela met en évidence l’apparente contradiction du service: l’outil est présenté pour tester les défenses, mais ses capacités peuvent être utilisées en dehors de tels scénarios.
Aucune donnée sur le nombre d’utilisateurs, l’étendue de la distribution ou les dommages concrets n’est fournie dans la source. La question de savoir si les avantages l’emportent sur les risques demeure donc ouverte.
commentaire éditorial
Pourquoi c’est important
Il est probable que le barrière pour travailler avec des modèles sans restrictions continue de baisser, mais l’ampleur de l’effet n’est pas établie. Le prochain signal observable sera la vérification des clients, l’utilisation réelle du service et les incidents confirmés. Une grande incertitude demeure car les conclusions reposent sur une seule publication et son résumé, et non sur un ensemble complet de sources indépendantes.