NVIDIA Developer Blog опубликовал материал о детерминированном выполнении Groq 3 LPX и энергоэффективном инференсе с высокой интерактивностью на NVIDIA Vera Rubin.

В публикации говорится, что энергопотребление становится определяющим ограничением для AI-фабрик. Каждый компонент вычислительной платформы должен повышать результат в рамках ограниченного энергетического бюджета.

По версии материала, ключевым показателем ценности AI-платформы следует считать производительность на ватт, а не необработанную, ненормализованную пропускную способность. Пакет источника не содержит подробностей о конфигурации, измерениях или сравнительных результатах.