Pokee AI ha lanzado Pokee-Isaac 28B, un modelo base de texto con un contexto de hasta 10illones de tokens, diseñado para operar dentro del perímetro del cliente. Según datos de MarkTechPost, los pesos del modelo no han sido publicados; el acceso se proporciona mediante licencia para VPC, despliegue local o dispositivo.
En los resultados declarados, el modelo obtuvo un 93,3% en RULER con un contexto de 10illones de tokens. En el panel de comparación, todas las soluciones base obtuvieron un 0,0% después de 2illones de tokens. En BFCL v4, el modelo ocupó el primer lugar con un resultado de 70,94, y en Terminal-Bench 2.1 quedó en segundo lugar.
En una GPU B200, la velocidad de preprocesamiento del contexto completo alcanzó los 137 200okens por segundo, mientras que la velocidad de generación se mantuvo en aproximadamente 335okens por segundo. El precio indicado es de 0,15 dólares por millón de tokens de entrada y 1 dólar por millón de tokens de salida.
comentario editorial
Por qué importa
La consecuencia probable es un mayor interés en modelos que procesan grandes volúmenes de contexto dentro de un entorno controlado por el cliente. La siguiente señal observable será la publicación de una metodología detallada de pruebas, condiciones de licenciamiento o una verificación independiente de los resultados. Existe una incertidumbre significativa relacionada con el hecho de que actualmente solo está disponible un sinopsis de una única fuente y los pesos del modelo no han sido publicados.