Nature Machine Intelligence a publié un article intitulé « The epistemic debt of generative AI ». Sa description indique que les auteurs utilisant l'IA générative pour des tâches intellectuelles sans comprendre suffisamment le résultat créent un fossé entre le matériel présenté et ce qu'ils sont capables de justifier.
Selon cette même description, ce fossé s'élargit si les travaux ultérieurs s'appuient sur le résultat initial. Les auteurs qualifient cet écart accumulé de « dette épistémique ».
Les informations disponibles reposent sur les métadonnées de la publication et non sur son texte intégral. Par conséquent, il est impossible d'en déduire la prévalence du problème, les modèles spécifiques concernés ou les recommandations pratiques.
commentaire éditorial
Pourquoi c’est important
Une conséquence probable est un renforcement des exigences de vérification et de compréhension des matériaux créés avec l'IA générative, surtout lorsqu'ils servent de base à des travaux ultérieurs. Le prochain signal observable sera le contenu du texte intégral de la publication et la présence éventuelle d'une méthodologie ou de recommandations pratiques. Une incertitude majeure subsiste car seul un métadescriptif sans détails de recherche est actuellement disponible.