Anthropic lance une API qui permettra aux régulateurs, aux médias et aux chercheurs de vérifier si le texte contient le marquage numérique Claude. Selon The Decoder.
Cette évolution s’inscrit dans le cadre des exigences de la loi européenne sur l’IA prévoyant des marquages invisibles pour le texte généré par l’IA. La technologie concerne non seulement les développeurs de modèles, mais aussi les organisations qui doivent évaluer l’origine des matériaux.
Les critiques avertissent que un tel marquage pourrait dégrader la qualité du texte. Une question distincte est liée à la transparence dans les situations où les contrats interdisent l’utilisation de l’IA: la source n’explique pas comment ce conflit sera résolu.
commentaire éditorial
Pourquoi c’est important
Une conséquence probable est une augmentation du contrôle externe sur l'origine des textes générés par l'IA et de nouvelles exigences pour les rédactions, les chercheurs et les régulateurs. Le prochain signal observable sera la publication des conditions d'accès, des indicateurs techniques et des évaluations indépendantes de la précision de l'API. Une incertitude importante subsiste concernant l'impact du marquage sur la qualité du texte et les restrictions contractuelles sur l'utilisation de l'IA.