Pokee AI выпустила Pokee-Isaac 28B — текстовую базовую модель с контекстом до 10 млн токенов, рассчитанную на работу внутри клиентского контура. По данным MarkTechPost, веса модели не опубликованы; доступ предоставляется по лицензии для VPC, локального развёртывания или устройства.
В заявленных результатах модель набрала 93,3% в RULER на контексте 10 млн токенов. В панели сравнения все базовые решения получили 0,0% после 2 млн токенов. В BFCL v4 модель заняла первое место с результатом 70,94, а в Terminal-Bench 2.1 — второе.
На одной B200 скорость предварительной обработки полного контекста достигала 137 200 токенов в секунду, тогда как скорость генерации держалась примерно на уровне 335 токенов в секунду. Указанная цена составляет 0,15 доллара за миллион входных токенов и 1 доллар за миллион выходных токенов.
комментарий редакции
Что это значит
Вероятное последствие — усиление интереса к моделям, которые обрабатывают большие объёмы контекста внутри контролируемой клиентом среды. Следующим наблюдаемым сигналом станет публикация подробной методики тестов, условий лицензирования или независимой проверки результатов. Существенная неопределённость связана с тем, что сейчас доступен только синопсис одного источника, а веса модели не опубликованы.