Компания NVIDIA анонсировала технологию ModelExpress, созданную для решения проблемы высокой стоимости передачи данных в инфраструктуре искусственного интеллекта. По мере того как контрольные точки моделей растут до сотен гигабайт или даже одного терабайта, расходы на каждое перемещаемое байт данных стремительно увеличиваются.

Ситуация усугубляется тем, что перемещение весов этих моделей внутри вычислительного кластера является крайне распространенной операцией. Традиционные методы передачи становятся узким местом, когда объемы данных достигают таких масштабов, требуя новых подходов к дистрибуции артефактов.

ModelExpress позиционируется как инструмент, способный распределять эти тяжелые файлы со скоростью света, минимизируя задержки, неизбежные при работе с традиционными сетевыми протоколами в условиях экстремальных объемов информации.