Anthropic предложила законопроект о безопасности ИИ, который предусматривает возможность блокировки модели, если её применение может привести к гибели 50 и более человек. Об этом сообщает TechCrunch AI; доступное описание основано на метаданных публикации, а не на полном тексте документа.
По тому же описанию, федеральные ведомства не смогут остановить выпуск модели без разрешения судьи. Таким образом, предлагаемая мера касается не только порога потенциального вреда, но и процедуры государственного вмешательства.
Значение инициативы зависит от того, как в документе определяются риск, связь между моделью и ущербом, а также полномочия суда и ведомств. Эти детали в представленном источнике не раскрыты.
комментарий редакции
Что это значит
Вероятное последствие — перенос части решений о выпуске высокорисковых моделей из административной плоскости в судебную. Следующим наблюдаемым сигналом станет публикация полного текста инициативы или её официальная реакция со стороны властей. Существенная неопределённость сохраняется из-за отсутствия полного документа и первичных комментариев.