Une étude rapportée par MIT News AI a montré des différences dans l'utilisation de l'aide au diagnostic basée sur les grands modèles de langage. Les non-spécialistes se fiaient aux suggestions du système même lorsqu'il commettait des erreurs, alors que les cliniciens identifiaient les erreurs de l'IA.
Ceci est important car un même système d'assistance peut produire des effets différents selon l'expérience de l'utilisateur. Pour la médecine, cela souligne l'importance de vérifier les recommandations plutôt que de faire simplement confiance à une réponse automatisée.
La description disponible ne précise pas la méthodologie de l'étude, le nombre de participants, le modèle spécifique ni les types de tâches diagnostiques. Par conséquent, les conclusions doivent être perçues comme un rapport sur une tendance observée, et non comme une évaluation de tous les systèmes d'IA médicale.
commentaire éditorial
Pourquoi c’est important
Une conséquence probable est que les systèmes médicaux avec IA nécessiteront des scénarios où l'utilisateur est tenu de vérifier les conclusions, en particulier en cas de manque de formation clinique. Le prochain signal observable sera la publication de données complètes de l'étude ou de travaux indépendants comparant les groupes d'utilisateurs. Une incertitude substantielle persiste en raison de l'absence, dans le dossier, de la méthodologie, de l'échantillon et de détails sur les erreurs.