OpenAI は、すでに訓練された AI モデルを実行する「推論」向けの最初のチップである「Jalapeño」を発表した。この発表は Hot Chips カンファレンスで行われた。
The Decoder が報じた SemiAnalysis のテストによると、Jalapeño は Nvidia の Blackwell および Rubin と比較して、スループットとエネルギー効率において優位性を示した。OpenAI もまた、同チップが最新のモデルに対し、より高速でエネルギー効率が良く、高いスループットと低い遅延を実現すると説明している。
OpenAI にとってこれは、計算インフラの重要な部分に対する潜在的な制御を意味する。しかし、利用可能な情報は完全な公開結果ではなく資料の要約に基づいており、テスト手法、システム構成、指標の絶対値については明されていない。
編集部コメント
なぜ重要か
考えられる帰結として、OpenAI の計算基盤に対する制御力の強化と、外部アクセラレータへの潜在的な依存度の低下が挙げられる。直近で検証可能な信号は、詳細な手法と独立した測定値である。主な不確実性は、宣言された優位性が特定のシナリオやテスト条件にどの程度依存しているかという点にある。