DeepSeek abrió el código fuente de DeepInfer, un marco de inferencia para modelos, que, según los metadatos de la publicación de The Decoder, está en la base de la modelo V4.1-Flash. Se informa que el sistema está construido sobre vLLM.
Según The Decoder, DeepInfer reduce los costos computacionales y el consumo de energía al ejecutar modelos de IA. La publicación también vincula este lanzamiento con un aumento de la presión de precios sobre los proveedores occidentales, incluidos OpenAI y Anthropic.
El valor práctico del lanzamiento es difícil de evaluar en este momento: en el material disponible no hay detalles sobre la licencia, resultados de pruebas, magnitud del ahorro o número de usuarios. Por lo tanto, el impacto de DeepInfer en el mercado sigue siendo una cuestión para verificación futura.
comentario editorial
Por qué importa
Conclusión probable: mayor interés en el lanzamiento más barato de modelos de IA y presión adicional sobre los precios de los servicios. La siguiente señal observable es la publicación de la licencia, pruebas de rendimiento o confirmación del uso de DeepInfer por desarrolladores externos. Una gran incertidumbre está relacionada con la ausencia de una declaración inicial de DeepSeek y la falta de datos cuantitativos.