Уходящий исследователь Anthropic Jacob Coxon предупредил CNN, что самосовершенствующийся ИИ представляет экзистенциальную угрозу для человечества. Тема также появилась в эфире Fox News и получила внимание американских политиков и Joe Rogan.
По данным The Decoder, взгляды Coxon разделяют специалисты по безопасности из Anthropic и OpenAI. Однако источник отмечает, что вокруг таких предупреждений действуют и культурные, и финансовые интересы.
Для общественной дискуссии это означает переход спора о долгосрочной безопасности ИИ из узкого экспертного круга в массовые медиа. При этом утверждение о возможном вымирании человечества остаётся крайней и оспариваемой позицией, а представленный материал не содержит независимого подтверждения оценки риска.
комментарий редакции
Что это значит
Вероятное ближайшее последствие — дальнейшее расширение публичных споров о безопасности ИИ и мотивах подобных предупреждений. Следующим наблюдаемым сигналом станет появление новых публичных заявлений или разборов со стороны специалистов и политиков. Существенная неопределённость связана с отсутствием в пакете первичных материалов и независимой проверки приведённых оценок.