IEEE Spectrum AI a lié la diffusion de contenu généré par machine sur les réseaux sociaux au problème de la confiance. Dans la description de l’auteur, environ la moitié du fil du compte était composé de contenus que les utilisateurs attentifs reconnaissaient comme créés par l’IA.
Selon cette description, une partie de ces publications était diffusée par des personnes qui n’avaient pas remarqué leur origine, et l’autre partie était diffusée intentionnellement, pour divertir ou semer la confusion. Le document mentionne également GPT-3 comme exemple de chatbot qui aurait pu donner des réponses plausibles mais fausses avec assurance.
La source est présentée sous forme de synopsis éditorial des métadonnées, et non comme le texte complet, les informations ne peuvent donc pas être considérées comme une confirmation indépendante de conclusions plus larges. Il n’est pas clair comment la part de contenu dans le fil a été mesurée ni dans quelle mesure l’observation est représentative.
commentaire éditorial
Pourquoi c’est important
Conclusion probable : il deviendra plus important pour les utilisateurs de vérifier l’origine des publications, mais la source ne confirme ni l’ampleur de la tendance, ni sa dynamique. Le prochain signal observé sera des mesures indépendantes de la part de contenu généré par machine et des données sur la précision de sa détection. L’incertitude substantielle réside dans le fait que les conclusions reposent sur une seule observation de l’auteur et le synopsis des métadonnées.