Anthropic und OpenAI wollen unabhängige Sicherheitsbewerter innerhalb ihrer KI-Labore platzieren. Forscher begrüßen den beispiellosen Zugang, über den TechCrunch AI berichtet.
Die Hauptfrage ist, ob solche Bewerter unabhängig agieren können. Laut Quelle sind für eine substantielle Aufsicht Transparenz und Eigenständigkeit der Prüfer erforderlich.
Als weitere Voraussetzung nennt die Quelle eine Regulierung. Das vorliegende Material enthält keine Details zur Zusammensetzung der Bewerter, ihren Befugnissen, Arbeitszeiträumen oder Mechanismen zur Veröffentlichung von Ergebnissen.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge ist eine verstärkte Aufmerksamkeit für interne Überwachung der KI-Entwicklung und für Transparenzanforderungen. Das nächste beobachtbare Signal wäre die Veröffentlichung konkreter Regeln für die Arbeit der Bewerter oder von Prüfergebnissen. Erhebliche Unsicherheit bleibt bestehen: Die Quelle legt die Struktur des Aufsichtsmodells nicht dar und enthält keine primären Aussagen der Unternehmen.