Des chercheurs de l'Université de Bristol ont proposé d'utiliser l'expérience de l'approbation des médicaments pour améliorer la sécurité des systèmes d'intelligence artificielle dans le domaine médical. Leur cadre, nommé Learning Ensemble, identifie trois axes d'évaluation.
Ces axes incluent les limites du système, l'équité pour différents groupes de patients et la conformité à la pratique clinique. L'objectif est d'identifier les modèles qui fonctionnent techniquement mais qui pourraient produire des résultats dangereusement erronés en milieu clinique.
L'importance de cette approche réside dans le fait que l'évaluation de l'IA médicale est envisagée plus largement que la simple vérification de la précision du modèle. Cependant, les documents disponibles sont présentés sous forme de synopsis par The Decoder, de sorte que les données concernant le déploiement, les résultats des tests et les systèmes spécifiques sont insuffisantes.
commentaire éditorial
Pourquoi c’est important
Une conséquence probable est un renforcement de l'attention portée à la vérification de l'IA médicale selon des critères liés aux patients et au contexte clinique, et non seulement aux métriques techniques. Le signal observable le plus proche serait la publication de critères détaillés ou les résultats de tests du cadre sur des systèmes réels. Une incertitude substantielle persiste en raison de l'absence, dans le jeu de données disponible, d'informations sur l'examen par les pairs, le déploiement et l'efficacité de la méthode.