OpenAI призвала разработать международные стандарты для рекурсивного самоулучшения — сценария, в котором системы искусственного интеллекта самостоятельно создают следующее поколение ИИ. Об этом сообщает The Decoder в пересказе, основанном на метаданных публикации.

Согласно этому пересказу, без защитных механизмов люди могут потерять контроль над процессом. OpenAI также считает, что США должны возглавить работу над глобальными стандартами измерения и правилами надзора.

Значимость инициативы связана с попыткой обсуждать контроль над самоулучшением на международном уровне, а не только в рамках отдельных компаний или стран. При этом доступный материал не содержит подробностей о предлагаемых стандартах, сроках или механизмах их применения.