Der Oberste Gerichtshof von New Mexico verhängte dem Anwalt Stephen Aarons eine Geldstrafe in Höhe von 5 000 Dollar und befand ihn der Missachtung des Gerichts schuldig, nachdem in der Berufungsnotiz zum Mordfall fiktive Zeugen und falsche Aussagen der Polizei erschienen waren. Das meldet The Verge AI unter Berufung auf Reuters.

Laut der veröffentlichten Beschreibung des Gerichtsprotokolls hat der Anwalt die sachlichen Behauptungen und die rechtlichen Grundlagen in der mit KI erstellten Notiz nicht überprüft. In ihr waren außerdem falsche Angaben zur Kleidung und zum Aussehen des Täters enthalten.

Der Fall zeigt eine praktische Grenze des Vertrauens in von KI generierte Texte in Bereichen, in denen jede Behauptung belegbar sein muss. Allerdings enthält das verfügbare Paket nur eine Kurzbeschreibung der Quelle, weshalb Details des Falls und die Position des Anwalts einer zusätzlichen Prüfung bedürfen.