Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← К новостям

OpenAI тестирует Ultrafast для GPT-5.6 Sol со скоростью 750 токенов

OpenAI начала предварительное тестирование режима Ultrafast для модели GPT-5.6 Sol. Он обеспечивает скорость до 750 выходных токенов в секунду. Ускорение предоставляется с помощью оборудования Cerebras в рамках партнерства OpenAI стоимостью 10 миллиардов долларов. На первом этапе режим доступен только через OpenAI API и лишь отдельным клиентам; компания намерена постепенно расширять доступ по мере роста вычислительных возможностей.

OpenAI заявляет, что Ultrafast должен объединить возможности крупной рассуждающей модели со скоростью небольших систем. Среди возможных сценариев компания называет анализ журналов и изменений в коде во время сбоев, обработку финансовых сигналов, решение сложных обращений в службе поддержки и ответы на вопросы о товарах. По данным OpenAI, внутри компании модель уже применяется при реагировании на инциденты.

Отдельно OpenAI указывает на исследовательские задачи: эксперименты, ранее выполнявшиеся пакетно за ночь, могут перейти в интерактивный формат. Ultrafast становится третьим уровнем рядом со Standard и Fast. Режим Fast обещает ускорение до 2,5 раза для GPT-5.6 Sol примерно за двойную цену, тогда как Ultrafast, вероятно, будет самым дорогим вариантом.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости