AWS Machine Learning Blog describió un método para configurar el escalado automático para sistemas de síntesis de voz en Amazon SageMaker AI. Como ejemplo se utiliza un contenedor de usuario con el modelo Kokoro-82M.

En la publicación se propone extraer la política de escalado a partir de dos medidas del endpoint en funcionamiento: la capacidad máxima Q_max y el tiempo total T_total. Este enfoque se opone a la elección de umbrales «a ojo».

El sentido práctico del método es vincular los gastos de GPU y el cumplimiento del nivel de latencia objetivo con las características observables del sistema en operación. Sin embargo, el material original no aporta los valores de las mediciones, umbrales ya definidos ni la confirmación de resultados en pruebas independientes.