Der scheidende Anthropic-Forscher Jacob Coxon warnte CNN davor, dass selbstverbessernde KI eine existentielle Bedrohung für die Menschheit darstellt. Das Thema kam auch in Fox News auf und zog die Aufmerksamkeit amerikanischer Politiker und von Joe Rogan auf sich.
Nach Angaben von The Decoder teilen Sicherheitsfachleute von Anthropic und OpenAI Coxons Ansichten. Der Quelle zufolge spielen jedoch bei solchen Warnungen auch kulturelle und finanzielle Interessen eine Rolle.
Für die öffentliche Debatte bedeutet dies, dass die Debatte über die langfristige KI-Sicherheit aus einem engen Expertengremium in die breite Massenmedienlandschaft verlagert wird. Dabei bleibt die Behauptung eines möglichen Aussterbens der Menschheit eine extreme und umstrittene Position, und das vorliegende Material enthält keine unabhängige Bestätigung der Risikoeinschätzung.
redaktioneller Kommentar
Warum es wichtig ist
Geringste wahrscheinliche nächste Folge ist eine weitere Ausweitung der öffentlichen Debatten über KI-Sicherheit und die Motive solcher Warnungen. Als nächstes beobachtbares Signal wird die Veröffentlichung neuer öffentlicher Stellungnahmen oder Analysen von Fachleuten und Politikern. Wesentliche Unsicherheit ergibt sich aus dem Fehlen von Primärmaterialien und unabhängiger Verifizierung der genannten Einschätzungen.