OpenAI заявила о более быстрых ответах благодаря чипу Jalapeño
OpenAI заявила, что ее новый чип Jalapeño способен эффективнее выполнять задачи искусственного интеллекта и быстрее выдавать ответы, чем конкурирующие AI-системы. Компания сообщила об этом в записи в своем блоге, опубликованной во вторник, описав устройство как средство одновременного повышения скорости отклика и производительности обработки.
На брифинге для журналистов вице-президент OpenAI по аппаратному обеспечению Ричард Хо сказал, что Jalapeño сочетает, по его выражению, «лучшее из двух миров»: меньшую задержку и более высокую пропускную способность. По словам Хо, AI-системам обычно приходится выбирать между этими характеристиками. OpenAI впервые представила Jalapeño в июне. Это специализированная интегральная схема, или ASIC, созданная в партнерстве с Broadcom. Чип предназначен для AI-инференса — запуска обученной модели для выполнения задачи или развертывания агента. В статье не приведены конкретные показатели производительности и подробное сравнение с отдельными конкурентными системами.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.