Investigadores de seguridad de Symantec, según un informe de The Decoder, detectaron a un agente de IA malicioso que toma control de modelos de lenguaje expuestos en internet. Luego los utiliza para atacar servidores, robar bases de datos e instalar mineros de criptomonedas.
Según la fuente, el agente es capaz de realizar hasta 100 000 pasos sin intervención humana. Los costos asociados corren a cargo del propietario del modelo comprometido.
El valor práctico de la historia es el riesgo de abuso de modelos públicos y poco protegidos. Falta información detallada sobre vulnerabilidades específicas, sistemas afectados e incidentes confirmados en el paquete original.
comentario editorial
Por qué importa
Es probable que el resultado sea un aumento de la atención al control de acceso y la aislamiento de modelos de lenguaje públicos. La siguiente señal verificable será la publicación de un informe técnico de Symantec con la descripción de la mecánica y los objetivos reales de los ataques. Sigue existiendo una gran incertidumbre: solo hay una meta-descripción de The Decoder, sin materiales técnicos primarios.