Der Geschäftsführer von Anthropic, Dario Amodei, plädiert für eine Verlangsamung der KI-Entwicklung. Nach Angaben von TechCrunch AI und The Verge AI beschreibt er einen dreistufigen Plan, der dem Unternehmen Zeit geben soll, Schutzmaßnahmen zu entwickeln, und den Regulatoren ermöglicht, Modelle zu bewerten.
Erster Schritt sei die breite Zugänglichkeit von Modellen für externe Prüfer, einschließlich METR, um die Einhaltung von Sicherheitspraktiken und Verpflichtungen zu überprüfen. In der Beschreibung heißt es, dass dieser Schritt das Unternehmen eigenständig unternimmt.
In den Materialien wird außerdem darauf hingewiesen, dass Sam Altman und Amodei anscheinend in der Idee übereinstimmen, das Tempo zu drosseln. Allerdings sind der vollständige Plan, seine Fristen und potenzielle Verpflichtungen anderer Entwickler aus den vorliegenden Daten unklar.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge — stärkere Rolle externer Prüfer und formellere Verfahren vor der Veröffentlichung neuer Modelle. Nächsten beobachtbaren Signal wird die Veröffentlichung der Details eines dreistufigen Plans oder die Bestätigung konkreter Verpflichtungen seitens anderer Entwickler sein. Wesentliche Unsicherheit bleibt aufgrund des begrenzten Materials und fehlender primärer Erklärungen.