Hugging Face передала маршрутизацию языковых моделей OpenRouter
Hugging Face и OpenRouter начинают сотрудничество, призванное упростить доступ к моделям с открытыми весами. Модели, опубликованные в Hugging Face Hub, можно вызывать через единый API с токеном Hugging Face, если их обслуживает соответствующий провайдер. Запросы к языковым моделям теперь проходят через OpenRouter: он выбирает провайдера по текущим показателям цены, скорости и надежности, а при сбое может повторить запрос у другого провайдера.
Интеграция поддерживает API Chat Completions и Responses от OpenAI, а также Messages API от Anthropic для чат-моделей. Существующий код менять не требуется. Пользователь может выбрать политику маршрутизации или конкретного провайдера с помощью суффикса в идентификаторе модели. Маршрутизация также учитывает кэш подсказок, поэтому разговор может оставаться у провайдера, где хранится его кэш.
Оплата не меняется: в счете Hugging Face указывается цена провайдера, без дополнительной наценки. Пользователи PRO получают кредит $2 в месяц, а организации Team и Enterprise — $2 на каждое место. Собственные ключи API провайдеров больше нельзя применять для языковых моделей. При этом генерация изображений, видео и аудио по-прежнему выполняется напрямую через Hugging Face Inference Providers.
Текст подготовлен ИИ Sakhanda Wire по материалу Hugging Face. Факты, цитаты и полный контекст — в оригинальной статье ниже.