Bradley Amy, directrice technique de Pangram, affirme que le post-entraînement et les garde-fous diminuent notablement l'éventail expressif des modèles linguistiques. Selon le matériel publié par The Decoder, les modèles de base sans ces contraintes écrivent déjà avec une plus grande diversité.
Cela signifie que la détectabilité du texte généré par une IA peut être liée non pas à une incapacité fondamentale à écrire comme un humain, mais aux effets du post-entraînement et des réglages de sécurité. Pour les utilisateurs, cela est important lors de l'évaluation de la qualité et de l'origine des contenus générés automatiquement.
La confirmation disponible est limitée au synopsis de The Decoder et n'inclut pas le texte complet de l'article, la méthodologie ou une vérification indépendante de l'affirmation. On ignore quelles modèles et quelles procédures ont été comparées et dans quelle mesure cette conclusion s'applique aux systèmes modernes dans leur ensemble.
commentaire éditorial
Pourquoi c’est important
Conséquence probable: les détecteurs et les analystes de l'origine du texte pourraient prendre en compte non seulement les capacités du modèle, mais aussi les effets de post-entraînement. Le prochain signal observable sera l'apparition de comparaisons reproductibles entre les modèles de base et ceux entraînés. Une incertitude substantielle résulte de l'absence de méthodologie, de données et de vérification indépendante dans le paquet.