DeepSeek открыла исходный код DeepInfer — фреймворка для вывода моделей, который, согласно метаданным публикации The Decoder, лежит в основе модели V4.1-Flash. Сообщается, что система построена на базе vLLM.

По данным The Decoder, DeepInfer снижает вычислительные затраты и энергопотребление при запуске ИИ-моделей. Публикация также связывает этот релиз с усилением ценового давления на западных поставщиков, включая OpenAI и Anthropic.

Практическое значение релиза пока трудно оценить: в доступном материале нет подробностей о лицензии, результатах тестов, масштабе экономии или числе пользователей. Поэтому влияние DeepInfer на рынок остаётся вопросом для дальнейшей проверки.