
NVIDIA Developer Blog は、Groq 3 LPX の決定論的実行と、NVIDIA Vera Rubin における高インタラクティブ性かつエネルギー効率の高い推論に関する資料を発表した。
同資料では、電力消費が AI ファクトリーにとって決定的な制約要因となりつつあると述べられている。計算プラットフォームのあらゆるコンポーネントは、限られたエネルギー予算内で成果を向上させる必要がある。
同資料の見解によれば、AI プラットフォームの価値を示す主要指標は、生未經正規化のスループットではなく、ワットあたりのパフォーマンスであるべきだとしている。なお、利用可能なソースパッケージには、構成、測定値、または比較結果に関する詳細は含まれていない。
編集部コメント
なぜ重要か
市場へのおそらく帰結としては、ワットあたりのパフォーマンスが AI インフラの実践的な基準としてより注目されるようになることである。次に観測可能な信号は、公開される構成、電力消費の測定値、そして独立した比較となるだろう。 существенная неопределённость сохраняется: 利用可能なパッケージには完全なテキストや数値結果が含まれていない。