Der Geschäftsführer von Anthropic, Dario Amodei, skizzierte einen Plan zur Drosselung der Weiterentwicklung fortschrittlicher KI-Systeme. Darauf basieren unabhängige Sicherheitsprüfer und die Koordination zwischen KI-Labors in demokratischen Ländern, berichtet TechCrunch AI.
Der Vorschlag entstand eine Woche nach der Warnung eines Anthropic-Forschers vor einem katastrophalen Szenario, die das Interesse der KI-Branche geweckt hat. Nach Informationen der Quelle wurde die Initiative bereits von einigen Branchenvertretern unterstützt, stieß jedoch auch auf Kritik von Nvidia-CEO Jensen Huang.
Der Sinn der Initiative besteht darin, den Entwicklungstempo von KI-Systemen allgemein abzustimmen und einer unabhängigen Risikoprüfung zu unterziehen. Allerdings besteht das verfügbare Material nur aus einem redaktionellen Überblick von TechCrunch AI, daher bleiben Details des Plans, die Zusammensetzung der Unterstützer und der Inhalt von Huangs Einwänden unklar.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge — Stärkung der Debatte über unabhängige Audits und Koordination zwischen Entwicklern fortschrittlicher KI-Systeme. Das nächstzu beobachtende Signal — Veröffentlichung konkreter Kriterien oder einer Liste von Teilnehmern der Initiative. Wesentliche Unsicherheit verbunden mit dem Fehlen des vollständigen Textes des Vorschlags und primären Kommentaren der Parteien.