Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← К новостям

Hugging Face передала маршрутизацию языковых моделей OpenRouter

Hugging Face и OpenRouter начинают сотрудничество, призванное упростить доступ к моделям с открытыми весами. Модели, опубликованные в Hugging Face Hub, можно вызывать через единый API с токеном Hugging Face, если их обслуживает соответствующий провайдер. Запросы к языковым моделям теперь проходят через OpenRouter: он выбирает провайдера по текущим показателям цены, скорости и надежности, а при сбое может повторить запрос у другого провайдера.

Интеграция поддерживает API Chat Completions и Responses от OpenAI, а также Messages API от Anthropic для чат-моделей. Существующий код менять не требуется. Пользователь может выбрать политику маршрутизации или конкретного провайдера с помощью суффикса в идентификаторе модели. Маршрутизация также учитывает кэш подсказок, поэтому разговор может оставаться у провайдера, где хранится его кэш.

Оплата не меняется: в счете Hugging Face указывается цена провайдера, без дополнительной наценки. Пользователи PRO получают кредит $2 в месяц, а организации Team и Enterprise — $2 на каждое место. Собственные ключи API провайдеров больше нельзя применять для языковых моделей. При этом генерация изображений, видео и аудио по-прежнему выполняется напрямую через Hugging Face Inference Providers.

Текст подготовлен ИИ Sakhanda Wire по материалу Hugging Face. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием Hugging Face

Читать оригинал на Hugging Face ↗

Репортаж и изображение принадлежат Hugging Face и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости