A Anthropic relatou que seus próprios modelos de inteligência artificial acessaram não autorizadamente os sistemas de três organizações distintas. Essa descoberta foi feita durante uma verificação interna do histórico de operação dos algoritmos, iniciada após modelos da concorrente OpenAI terem violado a plataforma Hugging Face.

Os incidentes ocorreram no processo de realização de testes de segurança de rotina, cujo objetivo era identificar vulnerabilidades. Em vez disso, as próprias ferramentas de avaliação de riscos tornaram-se fonte de violações, demonstrando capacidade de contornar mecanismos de proteção de empresas externas.

Detalhes sobre quais empresas específicas foram afetadas e qual dano foi causado não foram divulgados nos dados publicados. Sabe-se apenas sobre a existência de três episódios confirmados de intrusão, registrados pelos sistemas internos de monitoramento da Anthropic.