Перший спеціально розроблений чип OpenAI «Jalapeño», як повідомляється, випереджає Blackwell і Rubin від Nvidia у тестах інференсу

OpenAI представила перші результати тестування свого внутрішнього чипа для інференсу на конференції Hot Chips. За повідомленнями, «Jalapeño» випереджає Blackwell і Rubin від Nvidia за пропускною здатністю на ват і затримкою обробки токенів.

Чип призначений лише для інференсу, тобто він запускає моделі ШІ, але не навчає їх. Jalapeño також не оптимізований під власні моделі OpenAI. Це універсальний прискорювач інференсу великих мовних моделей.

OpenAI стверджує, що Jalapeño забезпечує в 1,5–1,9 раза більше роботи ШІ на ват за пікової пропускної здатності в усіх трьох протестованих моделях, а наскрізна затримка в нього на 1,7–3,6 раза нижча, ніж у найкращих комерційно доступних систем. Для інтерактивних навантажень, за словами компанії, продуктивність у 2,1–4,1 раза вища.

Результати отримано під час тестів із використанням публічного тесту InferenceX від SemiAnalysis. Цифри надала OpenAI. SemiAnalysis перевірила деякі запуски безпосередньо в лабораторії. Тестувалися моделі GPT-OSS 120B, Deepseek R1 670B і Kimi K2.5 1T. У GPT-OSS Jalapeño досяг близько 1 400 токенів на секунду на одного користувача. У Deepseek R1 він перевищив 700 токенів на секунду за одного одночасного запиту.

Jalapeño показав ці результати без використання таких методів, як багатотокенове передбачення або спекулятивне декодування, тоді як деякі системи для порівняння покладалися на ці оптимізації, тож можливості для подальшого покращення ще є.

У своєму головному порівнянні продуктивності на ват SemiAnalysis пише, що «Jalapeño знищує всі інші чипи». Генеральний директор SemiAnalysis Ділан Патель додав: «Зазвичай чипи першого покоління не є конкурентоспроможними, але OpenAI випереджає Nvidia Blackwell і навіть Rubin».

SemiAnalysis зазначає, що справедливішим об’єктом порівняння є не Blackwell, а новіша платформа Vera Rubin від Nvidia, оскільки обидві використовують пам’ять HBM4. Навіть у цьому випадку Jalapeño видає більше вихідних токенів на мегават, ніж Vera Rubin, хоча прискорювач Nvidia використовує оптимізацію багатотокенового передбачення, якої Jalapeño поки не має. За загальною вартістю володіння на токен вони приблизно рівні.

Втім, є певні застереження. Nvidia і AMD уже опублікували результати для більших моделей, як-от Deepseek V4 Pro і Kimi K3, які на Jalapeño ще не тестувалися. І хоча системи Rubin уже постачаються клієнтам, Jalapeño, за повідомленнями, поки не вийшов за межі інженерних зразків.

OpenAI створила чип за дев’ять місяців, частково використовуючи власні моделі

OpenAI розробила Jalapeño спільно з Broadcom. Роботи над дизайном розпочалися в середині 2024 року, а фінальний дизайн передали у виробництво в листопаді 2025 року. Повний цикл зайняв близько 16 місяців, але OpenAI стверджує, що від першого дизайну чипа до завершеного креслення, відправленого на фабрику, минуло лише дев’ять місяців. Під час розробки компанія використовувала власні моделі ШІ, згідно з даними OpenAI. Старіші покоління моделей допомагали проєктувати чип, а новіші прискорили програмування й оптимізацію.

SemiAnalysis вбачає в цьому ознаку того, що широко обговорюваний «рів CUDA» Nvidia може більше не бути непереборною перевагою. «Рів CUDA потенційно мертвий, зважаючи на те, як швидко OpenAI може запускати нові моделі на власному кремнії», — пише компанія.

Фінансова директорка OpenAI Сара Фріар каже, що цей чип є частиною ширшої стратегії обчислень, у межах якої дата-центри, чипи, моделі, платформа для розробників, продукти й пристрої працюють як єдина інтегрована система. За її словами, Jalapeño доповнює чинні партнерства OpenAI з Nvidia, AMD, AWS, Cerebras, CoreWeave та іншими, а не замінює їх.

OpenAI має тісні зв’язки з кількома з цих компаній. Nvidia, AMD і AWS є інвесторами або обчислювальними партнерами, причому Nvidia — одним із найбільших. Кожна з них також створює власні чипи для ШІ, що робить ці відносини одночасно партнерськими й конкурентними. Водночас усі ці компанії продовжують заявляти, що обчислювальних потужностей у світі не може бути забагато — твердження, яке зручно підтримує їхні власні бізнес-моделі.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.