OpenAI тестує Ultrafast для GPT-5.6 Sol зі швидкістю 750 токенів
OpenAI запустила попередню версію режиму Ultrafast для моделі GPT-5.6 Sol. Він може генерувати до 750 вихідних токенів за секунду. Прискорення забезпечує Cerebras у межах партнерства з OpenAI на 10 мільярдів доларів. Спочатку режим буде доступний лише через OpenAI API та обмеженому колу клієнтів. Компанія планує поступово розширювати доступ у міру збільшення потужностей.
За словами OpenAI, Ultrafast має поєднати можливості великої моделі для міркувань зі швидкістю менших моделей. Серед можливих застосувань компанія називає аналіз журналів і змін у коді під час збоїв, оцінювання фінансових сигналів, обробку складних запитів клієнтів і відповіді на запитання про товари. OpenAI повідомляє, що вже використовує модель усередині компанії під час реагування на інциденти.
Компанія також описує дослідницькі процеси, у яких нічні пакетні експерименти можуть стати інтерактивними сесіями. Ultrafast доповнює Standard і Fast у трирівневій ціновій моделі. Fast Mode забезпечує до 2,5 раза вищу швидкість для GPT-5.6 Sol приблизно за подвійну ціну, а Ultrafast, імовірно, буде найдорожчим рівнем.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.