
NVIDIA выпустила TensorRT Model Connect (TRTMC) в публичной предварительной версии. По данным MarkTechPost, проект с лицензией Apache-2.0 преобразует поддерживаемую контрольную точку из Hugging Face или локальный checkpoint в сквозной инференс TensorRT с помощью двух команд, без промежуточного экспорта в ONNX.
ビルドは versioned.bundle というアーティファクトを生成し、それをネイティブの C++ タスクインタフェース経由で実行します。前述の推論パスでは PyTorch は含まれていません。
NVIDIA の GB300 のスナップショットは 29 月 2026 日に公開され、リリースプロファイルが 105 個、モデルファミリが 76 個に及ぶことをカバーしています。出所は TRTMC の性能、全モデルの互換性、前提版の終了時期などのデータを提示していません。
編集部コメント
なぜ重要か
おそらく、サポートされるモデルのチェックポイントをネイティブ TensorRT 推論へと移行する過程を単純化する結果になると予測される。次に現れる指標は、互換性のあるアーキテクチャのリストと公開された性能測定値となる。前提版という不確実性、単一ソース、公開パッケージにおける技術文書の欠如のため、重要な不確実性が残る。