Abliteration.ai vende acceso a modelos modificados con mecanismos de seguridad entrenados eliminados. Actualmente el servicio se basa en GLM-5.3 de Z.AI y ofrece estos modelos para ciberseguridad ofensiva y red teaming.
Según The Decoder, a los periodistas les ha sido posible obtener instrucciones para crear software malicioso sin gran esfuerzo. Esto muestra la contradicción declarada del servicio: la herramienta se posiciona para pruebas de defensa, pero sus capacidades también pueden ser utilizadas fuera de esos escenarios.
No hay datos sobre el número de usuarios, escalas de distribución o daños específicos en la fuente. Por lo tanto, la cuestión de si los beneficios superan a los riesgos sigue abierta.
comentario editorial
Por qué importa
Posible consecuencia: una mayor reducción de la barrera para trabajar con modelos sin restricciones, pero no se ha establecido la magnitud del efecto. La siguiente señal observada serán datos sobre la verificación de clientes, uso real del servicio y incidentes confirmados. Una incertidumbre sustancial está relacionada con que las conclusiones se basan en una única publicación y su resumen, y no en un conjunto completo de fuentes independientes.