NVIDIA hat Switchyard — einen Proxy und eine Bibliothek in Rust mit der Apache‑Lizenz-2.0 zum Routing des Traffics großer Sprachmodelle veröffentlicht. Laut MarkTechPost verwandelt das Projekt Anfragen in ein von Providern neutrales Format, leitet sie durch verschiedene Algorithmen und übersetzt Antworten zurück in das Client-Format.

Zu den angegebenen Modi des Routings gehören End-to-End-Delivery, zufällige Weiterleitung, Klassifizierung durch Sprachmodell und sequenzielle Weiterleitung nach Phasen. In der Beschreibung heißt es außerdem, dass Claude Code und Codex CLI über Switchyard mit vLLM, NIM oder Ollama arbeiten können, ohne Änderungen am Client vorzunehmen.

Das Projekt befindet sich in der Pre-Alpha-Phase und ist gemäß der Beschreibung nicht für den industriellen Einsatz vorgesehen. Dadurch ist der praktische Wert der Veröffentlichung in diesem Stadium begrenzt: Es geht vor allem um die angegebene Architektur und die Möglichkeiten eines frühen Projekts, nicht um einen bestätigten funktionsfähigen Service.