Der Forscher von Anthropic Jacob Coxon verließ das Unternehmen, aus Furcht, dass unkontrollierbare KI die Menschheit auslöschen könnte. Sein Kollege, der weiterhin bei Anthropic bleibt, stimmte diesen Befürchtungen zu.
Sicherheitsexperten, die Scientific American AI zitieren, sagen, dass festgestellte Vorfälle eine stärkere Aufsicht erfordern, statt Panik. Die Quelle listet in den übermittelten Materialien keine Auflistung dieser Vorfälle und die Position des Coxon-Kollegen wird nicht offengelegt.
Die Geschichte ist wichtig als Beispiel für Meinungsverschiedenheiten bei der Bewertung der langfristigen Risiken von KI: Einige Experten sehen sie als Bedrohung von existenziellem Ausmaß, andere legen den Schwerpunkt auf praktische Kontrollmaßnahmen. Beigefügte Informationen basieren auf einer unabhängigen Publikation und deren Metadaten, ohne primäre Aussagen von Anthropic oder Coxon.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge — Verstärkung der Debatte darüber, wie man die Einschätzung langfristiger Bedrohungen durch KI mit der Kontrolle bereits beobachteter Risiken verbinden kann. Der nächste überprüfbare Hinweis werden die ersten Kommentare von Coxon, Anthropics oder zusätzliche Informationen zu den erwähnten Vorfällen sein. Wesentliche Unsicherheit bleibt aufgrund des Fehlens des vollständigen Textes und unabhängiger Bestätigung.