NVIDIA выпустила TensorRT Model Connect (TRTMC) в публичной предварительной версии. По данным MarkTechPost, проект с лицензией Apache-2.0 преобразует поддерживаемую контрольную точку из Hugging Face или локальный checkpoint в сквозной инференс TensorRT с помощью двух команд, без промежуточного экспорта в ONNX.

ビルドは versioned.bundle というアーティファクトを生成し、それをネイティブの C++ タスクインタフェース経由で実行します。前述の推論パスでは PyTorch は含まれていません。

NVIDIA の GB300 のスナップショットは 29 月 2026 日に公開され、リリースプロファイルが 105 個、モデルファミリが 76 個に及ぶことをカバーしています。出所は TRTMC の性能、全モデルの互換性、前提版の終了時期などのデータを提示していません。