DeepSeek hat den Quellcode von DeepInfer—ein Framework zur Ausführung von Modellen—veröffentlicht, das laut Metadaten der Veröffentlichung The Decoder hinter dem Modell V4.1-Flash steckt. Es wird berichtet, dass das System auf Basis von vLLM aufgebaut ist.

Laut The Decoder senkt DeepInfer die Rechenkosten und den Energieverbrauch beim Starten von KI-Modellen. Die Veröffentlichung wird zudem mit einem erhöhten Preisdruck auf westliche Anbieter wie OpenAI und Anthropic in Verbindung gebracht.

Die praktische Bedeutung der Veröffentlichung ist derzeit schwer abzuschätzen: In dem vorliegenden Material fehlen Details zu Lizenz, Testergebnissen, dem Ausmaß der Einsparungen oder der Nutzerzahl. Daher bleibt der Einfluss von DeepInfer auf den Markt fraglich und muss weiter geprüft werden.