Anthropic hat einen Gesetzentwurf zur KI-Sicherheit vorgelegt, der die Möglichkeit vorsieht, ein Modell zu blockieren, wenn seine Anwendung zu einem Tod von 50 und mehr Menschen führen könnte. Darüber berichtet TechCrunch AI; die verfügbare Beschreibung basiert auf den Metadaten der Veröffentlichung und nicht auf dem vollständigen Text des Dokuments.
Nach derselben Beschreibung können Bundesbehörden die Freigabe eines Modells nicht ohne richterliche Genehmigung stoppen. Damit betrifft das vorgeschlagene Maß nicht nur die Schwelle potenziellen Schadens, sondern auch das Verfahren staatlichen Eingreifens.
Der Wert der Initiative hängt davon ab, wie im Dokument Risiko, Zusammenhang zwischen Modell und Schaden sowie die Befugnisse eines Gerichts und der Behörden definiert werden. Diese Details werden in der vorliegenden Quelle nicht offengelegt.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge — die Entscheidung über die Freigabe hochriskanter Modelle wird teilweise aus der administrativen Ebene in die Gerichtsbarkeit verlagert. Als nächstes Beobachtungssignal dürfte die Veröffentlichung des vollständigen Textes der Initiative oder eine offizielle Reaktion der Behörden folgen. Erhebliche Unsicherheit besteht aufgrund des Fehlens eines vollständigen Dokuments und primärer Kommentare.