OpenAI заявила про швидші відповіді завдяки чипу Jalapeño
OpenAI заявила, що її новий чип Jalapeño може ефективніше виконувати завдання зі штучним інтелектом і швидше повертати відповіді, ніж конкуруючі AI-системи. Компанія повідомила про це в дописі у своєму блозі, опублікованому у вівторок, представивши чип як засіб одночасно підвищити швидкість відгуку та продуктивність обробки.
Під час брифінгу для журналістів віцепрезидент OpenAI з апаратного забезпечення Річард Хо сказав, що Jalapeño дає, за його висловом, «найкраще з обох світів»: меншу затримку та вищу пропускну здатність. За словами Хо, AI-системам зазвичай доводиться обирати між цими характеристиками. OpenAI вперше представила Jalapeño в червні. Це спеціалізована інтегральна схема, або ASIC, створена у партнерстві з Broadcom. Чип призначений для AI-інференсу — запуску навченої моделі для виконання завдання або розгортання агента. У статті не наведено конкретних показників продуктивності чи докладного порівняння з окремими конкурентними системами.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.