NVIDIA a présenté TensorRT Model Connect, une collection ouverte de références destinée au transfert des modèles ouverts du point de contrôle à l'inférence en deux commandes, selon un article du blog NVIDIA Developer.
Selon la description de l'entreprise, le déploiement de modèles ouverts dans des applications natives nécessite souvent des étapes distinctes de conversion, de prétraitement et de post-traitement, ainsi que du code d'exécution dédié. TensorRT Model Connect est conçu pour aider à relever ce défi.
L'impact pratique de cette approche ne peut pas encore être évalué sur la base des données disponibles: la source ne fournit aucune liste de modèles pris en charge, aucun résultat de test ni aucune comparaison avec des alternatives. Le contenu repose sur un synopsis provenant d'une seule source et non sur une confirmation indépendante.
commentaire éditorial
Pourquoi c’est important
Conséquence probable : une réduction du volume de travail manuel d'intégration lors du déploiement de modèles ouverts pris en charge. Le prochain signal observable sera la liste des modèles compatibles et la publication des résultats de tests. Une incertitude substantielle subsiste en raison de l'existence d'un seul synopsis dépourvu de détails de mise en œuvre.