Eine Studie, über die MIT News AI berichtete, zeigte Unterschiede bei der Nutzung diagnostischer Hilfe auf Basis großer Sprachmodelle. Laien verließen sich auf die Hinweise des Systems selbst in Fällen, in denen es falsch lag, wohingegen Kliniker die KI-Fehler identifizierten.
Dies ist wichtig, weil ein und dasselbe Unterstützungssystem je nach Erfahrung des Benutzers unterschiedliche Wirkungen erzielen kann. Für die Medizin unterstreicht dies die Bedeutung einer Überprüfung von Empfehlungen anstatt eines blinden Vertrauens in automatisierte Antworten.
In der verfügbaren Beschreibung werden weder die Methodik der Studie, die Anzahl der Teilnehmer, das spezifische Modell noch die Arten der diagnostischen Aufgaben genannt. Daher sollten die Schlussfolgerungen als Bericht über eine entdeckte Regelmäßigkeit und nicht als Bewertung aller medizinischen KI-Systeme verstanden werden.
redaktioneller Kommentar
Warum es wichtig ist
Eine wahrscheinliche Folge ist, dass medizinische KI-Systeme Szenarien erfordern, in denen der Benutzer verpflichtet ist, die Schlussfolgerungen zu überprüfen, insbesondere bei fehlender klinischer Ausbildung. Das nächste zu beobachtende Signal wird das Erscheinen vollständiger Studiendaten oder unabhängiger Arbeiten mit einem Vergleich von Benutzergruppen sein. Eine erhebliche Unsicherheit besteht aufgrund des Fehlens von Methodik, Stichprobe und Details zu Fehlern im vorliegenden Paket.