Anthropic führte eine Studie mit 50 Experten durch, denen ein System mit zufällig vorgegebenen Präferenzen präsentiert wurde. In Situationen, in denen ein Urteil erforderlich war, folgten die Teilnehmer dessen Position in Einzelfällen bis zu 86% Zeit.
Die Mehrzahl der Experten betrachtete die Ergebnisse als eigene. Das ist relevant für Arbeitsabläufe, bei denen KI als Ratgeber eingesetzt wird: Der Einfluss des Systems kann unbemerkt bleiben, selbst wenn der Mensch von der Unabhängigkeit der Lösung überzeugt ist.
Daten wurden The Decoder mit Verweis auf die Anthropic-Studie veröffentlicht. Im verfügbaren Paket gibt es nur Metadaten und eine knappe Beschreibung, daher bedürfen Details der Methodik, der Teilnehmenden und der Versuchsbedingungen einer weiteren Prüfung.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge – verstärkt das Interesse an Überprüfungen der Unabhängigkeit von Expertenentscheidungen bei der Nutzung von KI. Als nächstes beobachteter Hinweis wird die Veröffentlichung der vollständigen Methodik und der Ergebnisse der Studie sein. Wesentliche Unsicherheit besteht darin, dass derzeit nur eine kurze Beschreibung ohne Primärmaterialien zugänglich ist.