OpenAI разработала чип Jalapeño для быстрого инференса в крупных масштабах, сообщает TechCrunch AI. В пересказе издания говорится, что чип протестировали на бенчмарке InferenceX от Semianalysis.

По данным этого теста, Jalapeño показал больше токенов на пользователя и более высокую производительность на киловатт, чем доступные на тот момент решения, считавшиеся передовыми.

Практическое значение результата зависит от условий тестирования: в доступном материале нет числовых показателей, описания конфигурации сравнения или подтверждения со стороны OpenAI. Поэтому публикация пока говорит о заявленном результате одного источника, а не о полноценно проверенном превосходстве.