NVIDIA представила в публикации NVIDIA Developer Blog Virtual Inference Router от NVIDIA PAIR — решение, которое, согласно заголовку материала, расширяет доступные вычислительные ресурсы в локальной сети.
Публикация связывает этот подход с развитием совместной работы нескольких специализированных исполнителей: ведущий исполнитель разбивает сложную задачу на части, а пользователи запускают несколько сессий одновременно. В материале также отмечен рост многоисполнительных рабочих процессов.
Подробности о реализации, поддерживаемых системах, производительности и ограничениях в доступном пакете источников отсутствуют. Единственным источником служит метаданный синопсис NVIDIA Developer Blog, поэтому независимое подтверждение не представлено.
комментарий редакции
Что это значит
Вероятное значение: локальное распределение нагрузки может стать полезным для параллельных рабочих процессов, однако это пока аналитический вывод, а не подтверждённый результат. Следующий наблюдаемый сигнал — публикация технических деталей, данных о производительности или независимых тестов. Существенная неопределённость связана с тем, что сейчас доступен только метаданный синопсис одного источника.