NVIDIA в материале «How XPUs Meet a World-Class AI Factory» описала подход к инфраструктуре для ИИ-фабрик, работающих непрерывно. В центре внимания — выпускной результат: скорость генерации токенов, число токенов на ватт, стоимость токена, загрузка и время безотказной работы.

По изложению NVIDIA, для такой экономики инфраструктуру нужно проектировать и строить как полноценную фабрику, а не как набор отдельных ускорителей.

Это важно потому, что сравнение отдельных чипов не показывает полную эффективность системы. Однако доступный материал представлен как метаданные и краткое резюме публикации, поэтому подробности архитектуры, перечень участников и практические результаты остаются неизвестными.