Dans le nouveau rapport d'Anthropic sur le fonctionnement du service d'analyse des menaces, huit mois d'abus de Claude sont décrits. Selon le résumé de The Decoder, des laboratoires d'IA chinois, y compris l'équipe Qwen d'Alibaba, DeepSeek et Moonshot AI, transmettaient massivement des requêtes à Claude ou extrayaient des données pour l'entraînement. L'équipe Qwen aurait été soumise à plus de 151 millions d'échanges.
Dans le même récit, Claude aurait été utilisé pour développer des logiciels destinés à des missiles, des drones autonomes kamikazes et des systèmes de surveillance nationaux.
L'importance de l'histoire réside dans la juxtaposition de deux risques différents: l'utilisation du modèle pour des tâches militaires potentiellement dangereuses et l'obtention massive de données pour l'entraînement de systèmes concurrents. Il s'agit d'une évaluation éditoriale et non d'une étude indépendante vérifiée.
commentaire éditorial
Pourquoi c’est important
Conséquence probable — renforcement du contrôle d'accès aux modèles et de la surveillance des requêtes massives. Le prochain signe observé sera la publication du rapport complet d'Anthropic ou une confirmation indépendante de certains épisodes. Une incertitude substantielle demeure: seul un résumé des métadonnées d'une source est disponible.