Die leitende Wissenschaftlerin des AI Now Institute und ehemalige Sicherheitsingenieurin bei OpenAI, Heidy Khlaaf, erklärte, dass wissenschaftliche Aussagen so beschaffen sein müssen, dass ihre Wahrheit oder Falschheit überprüft werden kann. Damit bezog sie Stellung zu den Diskussionen darüber, ob KI zum Tod aller Menschen führen könnte.
Laut Khlaaf ist die Forderung nach Überprüfbarkeit notwendig, damit wissenschaftliche Argumente nicht den Charakter religiöser Überzeugungen annehmen. In der verfügbaren Beschreibung des Materials fehlen weitere Details zu spezifischen Systemen, Szenarien oder durchgeführten Studien.
Die Bedeutung dieser Aussage liegt in dem Aufruf, überprüfbare Risikobewertungen von Behauptungen zu trennen, die weder bestätigt noch widerlegt werden können. Das vorliegende Paket enthält jedoch lediglich einen Synopse der Veröffentlichung des AI Now Institute und bietet keine unabhängige Bestätigung der Position oder deren empirische Überprüfung.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge ist eine Verschärfung der Anforderungen an die Formulierung und den Beweis von Behauptungen über extreme KI-Risiken. Das nächste beobachtbare Signal wären veröffentlichte Überprüfungsmethoden, Forschungsergebnisse oder unabhängige Bewertungen spezifischer Szenarien. Es besteht weiterhin erhebliche Unsicherheit: In der Quelle steht nur eine kurze Synopse ohne solche Details zur Verfügung.