Pokee AI hat Pokee-Isaac 28B veröffentlicht – eine textbasierte Basismodell mit einem Kontext von bis zu 10illionen Token, das für den Betrieb innerhalb der Kundenumgebung konzipiert ist. Laut MarkTechPost sind die Modellgewichte nicht veröffentlicht; der Zugang erfolgt über Lizenzen für VPC, lokale Bereitstellungen oder Endgeräte.
Den angekündigten Ergebnissen zufolge erzielte das Modell im RULER-Benchmark bei einem Kontext von 93,3%illionen Token 10. Im Vergleichspanel erreichten alle Basislösungen nach 0,0%illionen Token 2. Im BFCL v4elegte das Modell mit 70,94 Punkten den ersten Platz und im Terminal-Bench 2.1 den zweiten Platz.
Auf einer einzelnen B200 erreichte die Geschwindigkeit der Vorverarbeitung des vollständigen Kontexts 137 200oken pro Sekunde, während die Generierungsgeschwindigkeit bei etwa 335oken pro Sekunde lag. Der angegebene Preis beträgt 0,15 US-Dollar pro Million Eingabe-Token und 1 US-Dollar pro Million Ausgabe-Token.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge ist ein verstärktes Interesse an Modellen, die große Kontextmengen innerhalb einer vom Kunden kontrollierten Umgebung verarbeiten können. Das nächste beobachtbare Signal wird die Veröffentlichung einer detaillierten Testmethodik, von Lizenzbedingungen oder einer unabhängigen Überprüfung der Ergebnisse sein. Eine erhebliche Unsicherheit besteht darin, dass derzeit nur eine Zusammenfassung einer einzigen Quelle verfügbar ist und die Modellgewichte nicht veröffentlicht wurden.