Salesforce Engineering beschreibt einen Fall, in dem ein KI-System eine gültige Warenrückgabe ablehnte. In seiner Bestätigung enthielt es korrekte Informationen: Die Richtlinie legte eine Frist von 90 Tagen fest, und der Kauf lag formal außerhalb dieses Zeitraums.
Der Kunde hatte jedoch Anspruch auf eine Ausnahme, die das System nicht extrahierte. Dadurch machte die Quellenprüfung die falsche Antwort überzeugender, obwohl jeder einzeln angeführte Fakt korrekt war.
In dem Beitrag wird GraphRAG als Ansatz zur Suche nach verknüpften Informationen und nicht nur nach einzelnen Fragmenten betrachtet. Details zur Implementierung und Vergleichsergebnisse werden im vorliegenden Quellenpaket nicht genannt.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge ist eine verstärkte Aufmerksamkeit für die Prüfung nicht nur der Quellen, sondern auch der Verbindungen zwischen Regeln, Käufen und Ausnahmen. Das nächste beobachtbare Signal werden veröffentlichte Ergebnisse der Anwendung von GraphRAG auf ähnliche Aufgaben sein. Eine erhebliche Unsicherheit bleibt bestehen: Das Paket enthält keine Daten zu Tests, zum Umfang des Problems und zur tatsächlichen Wirkung des Ansatzes.