NVIDIA Developer Blog a publié un article sur l’exécution déterministe Groq 3 LPX et l’inférence économe en énergie à haute interactivité sur NVIDIA Vera Rubin.

L’article indique que la consommation d’énergie devient une contrainte déterminante pour les IA-factories. Chaque composant d’une plateforme de calcul doit accroître le rendement dans le cadre d’un budget énergétique limité.

Selon l’article, le critère clé pour la valeur d’une plateforme IA serait la performance par watt plutôt que la bande passante brute et non normalisée. Le paquet source ne contient pas de détails sur les configurations, les mesures ou les résultats comparatifs.