42 Mitglieder der Royal Society, darunter die Fields-Medaillenträger Martin Hairer und Peter Scholze, haben in einem offenen Brief vor existenziellen Risiken durch künstliche Intelligenz gewarnt.
Laut der Zusammenfassung von The Decoder haben führende Modelle innerhalb weniger Monate offene Forschungsaufgaben gelöst. Die Autoren des Briefes sind der Ansicht, dass ähnliche Fähigkeiten auch auf Cyberwaffen und biologische Waffen anwendbar sein könnten.
In dem Bericht heißt es zudem, dass die Gesellschaft das Ausmaß der Situation möglicherweise zu spät erkennt, um noch Maßnahmen ergreifen zu können. Die vorliegende Quelle enthält nicht den vollständigen Text des Schreibens und bestätigt diese Behauptungen nicht durch eine separate Primärquelle.
redaktioneller Kommentar
Warum es wichtig ist
Eine wahrscheinliche Folge dieser Warnung ist eine verstärkte Aufmerksamkeit für die Überprüfung der Fähigkeiten fortschrittlicher KI-Systeme und für Sicherheitsmaßnahmen. Das nächste beobachtbare Signal wird die Veröffentlichung des vollständigen Textes des Schreibens oder eine Reaktion von Entwicklern und Regulierungsbehörden sein. Es besteht weiterhin erhebliche Unsicherheit: Das Paket enthält nur eine Zusammenfassung von The Decoder ohne das Primärdokument.