Forscher der Wharton School untersuchten die Funktionsweise von KI-Shopping-Systemen und stellten eine deutliche Instabilität ihrer Auswahl fest. Laut The Decoder änderte das Hinzufügen einer externen Quelle, beispielsweise Wirecutter, die Quote der ausgewählten Produkte um bis zu 99 Prozentpunkte.
Auch die Reihenfolge derselben Informationen beeinflusste das Ergebnis.
Dies ist wichtig für Verbraucher, die dem KI-System die Produktsuche oder den besten Preis anvertrauen möchten: Die Empfehlung hängt möglicherweise nicht nur von Produktmerkmalen, sondern auch von der Struktur der Eingangsdaten ab. Da jedoch nur Metadaten und eine Zusammenfassung von The Decoder verfügbar sind, bleiben Details der Methodik und der Umfang der Studie unklar.
redaktioneller Kommentar
Warum es wichtig ist
Wenn das Ergebnis in einer vollständigen Studie und unabhängigen Prüfungen bestätigt wird, müssen KI-Shopping-Services zeigen, dass ihre Empfehlungen robust sind und sensibel gegenüber Quellen. Das nächstprüfbare Signal ist die Veröffentlichung der Methodik und die Wiederholung des Experiments in anderen Produktkategorien. Eine wesentliche Unsicherheit besteht darin, dass momentan nur das Metadaten-Überblick von The Decoder verfügbar ist.