Abliteration.ai vende acesso a modelos modificados com mecanismos de segurança treinados removidos. Atualmente o serviço funciona com GLM-5.3 da Z.AI e oferece tais modelos para cibersegurança ofensiva e red teaming.
Segundo The Decoder, os jornalistas conseguiram obter instruções para criar malware sem muita dificuldade. Isso mostra a contradição declarada do serviço: a ferramenta é posicionada para testes de defesa, mas suas capacidades podem ser usadas além desses cenários.
Não há dados sobre o número de usuários, a escala de distribuição ou danos específicos na fonte. Portanto, a questão de se os benefícios superam os riscos permanece aberta.
comentário editorial
Por que importa
Provável consequência — uma redução adicional da barreira para trabalhar com modelos sem restrições embutidas, mas a magnitude do efeito não está estabelecida. O próximo sinal observável será informações sobre a verificação de clientes, uso real do serviço e incidentes confirmados. Uma incerteza significativa está relacionada ao fato de que as conclusões são baseadas em uma única publicação e seu sinopse, e não em um conjunto completo de fontes independentes.