Un groupe de chercheurs a présenté un article lors de la Conférence internationale sur l'apprentissage automatique qui s'est tenue ce mois-ci. L'étude affirme qu'il est impossible de rendre les grands modèles de langage entièrement protégés contre les piratages.
Les auteurs du document attribuent ce problème à un défaut fondamental dans les principes de fonctionnement de ces systèmes. Selon eux, l'architecture même des modèles crée une faille inéliminable pour d'éventuelles attaques.
Le contenu repose sur des conclusions publiées dans un rapport destiné à l'un des principaux événements spécialisés. Le MIT Technology Review relaie ces affirmations comme un défi sérieux pour l'industrie de l'intelligence artificielle.
commentaire éditorial
Pourquoi c’est important
La conséquence la plus probable sera un changement de paradigme dans le développement de l'IA, passant de la recherche d'une protection idéale à la création de systèmes capables de fonctionner même en cas de compromission partielle. Le prochain signal observable sera la réaction des grandes entreprises technologiques à ce rapport et les éventuelles modifications apportées à leurs feuilles de route en matière de sécurité. Une incertitude matérielle subsiste quant à l'étendue de l'applicabilité du défaut identifié aux différents types d'architectures de modèles.