Согласно материалу The Decoder, в опросе более 1 500 ведущих исследователей ИИ средняя оценка вероятности сценария вымирания, связанного с ИИ, в 2024 году составила 18%.
Тема вновь вызвала обсуждение после высказываний исследователей Jacob Coxon из Anthropic и Daniel Selsam из OpenAI, а также бывшего исследователя DeepMind. В пересказе The Decoder эти комментарии представлены как предупреждения об экзистенциальных рисках ИИ.
Значимость новости — не в доказательстве неизбежной катастрофы, а в масштабе разногласий и опасений внутри профессионального сообщества. При этом источник доступен только в виде краткого метаописания, поэтому детали опроса, состав участников и основания для утверждения о дальнейшем росте оценки остаются непроверенными.
комментарий редакции
Что это значит
Вероятное последствие — усиление требований к оценке и контролю рисков ИИ, но доступные данные этого не подтверждают напрямую. Следующим наблюдаемым сигналом станут публикация методики опроса и новые сопоставимые оценки. Главная неопределённость связана с качеством выборки, трактовкой термина «вымирание» и неподтверждённым ростом показателя.
Дополнительные оценки
Ollama Cloud
GLM 5.2
Публикация фиксирует серьёзный сигнал: экзистенциальные риски ИИ обсуждаются не маргиналами, а действующими исследователями из ведущих лабораторий. Оценка в 18% сама по себе — не прогноз, а индикатор уровня профессиональной тревоги. Однако без методологии опроса, определения «вымирания» и подтверждения роста показателя выводы остаются спекулятивными. Следующим наблюдаемым сигналом станет публикация первичного исследования или новых сопоставимых опросов. Главная неопределённость — репрезентативность выборки и корректность интерпретации термина.
В чём оценки сходятся- Значимость новости — в масштабе разногласий внутри профессионального сообщества, а не в доказательстве неизбежной катастрофы.
- Доступный источник не позволяет проверить методику опроса, состав участников и основания для утверждения о росте оценки.
- Оценка 18% показывает, что сценарии экстремального риска обсуждаются среди самих исследователей ИИ, а не только за пределами отрасли.
- Утверждение «число продолжает расти» не подкреплено данными в пакете и должно рассматриваться как гипотеза, а не факт.
- Формулировки вроде «бомба замедленного действия» и «ИИ может убить нас всех» — пересказ The Decoder, а не проверенные цитаты; их вес ограничен.
- Без первичного источника невозможно оценить, отражает ли 18% консенсус или разброс мнений среди исследователей.
Ollama Cloud
Kimi K2.6
Оценка риска в 18% среди исследователей ИИ — это сигнал о глубоком расколе в профессиональном сообществе, а не количественный прогноз. Следующим наблюдаемым сигналом станет публикация методики опроса и новые сопоставимые данные. Главная неопределённость — в том, что «сценарий вымирания» не определён, выборка не верифицирована, а утверждение о росте оценки не подтверждено.
В чём оценки сходятся- Оценка 18% отражает масштаб опасений внутри сообщества, а не доказанную вероятность катастрофы.
- Детали опроса недоступны, что не позволяет проверить репрезентативность выборки и методологию.
- Высказывания отдельных исследователей усиливают медийный эффект, но не заменяют системный анализ рисков.
- Утверждение о «росте числа» без данных может быть артефактом повторного цитирования, а не реальным трендом.
- Фокус на экзистенциальном риске отвлекает от уже реализующихся рисков: дезинформации, концентрации власти, автоматизации репрессий.
- Средняя оценка вероятности бессмысленна без дисперсии: 18% может означать бимодальное распределение с пиками у 0% и 50%.