Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← Към новините

Hugging Face прехвърля маршрутизирането на езикови модели към OpenRouter

Hugging Face и OpenRouter започват партньорство за по-лесен достъп до модели с отворени тегла. Моделите, публикувани в Hugging Face Hub, могат да се извикват чрез един и същ API с Hugging Face токен, когато са поддържани от съответния доставчик. Заявките към езикови модели вече преминават през OpenRouter, който избира доставчик според актуални измервания на цена, скорост и надеждност и може да повтори заявката при повреда.

Интеграцията поддържа API-тата Chat Completions и Responses на OpenAI, както и Messages API на Anthropic за чат модели. Съществуващият код не се променя. Потребителите могат да зададат политика за маршрутизиране или конкретен доставчик чрез суфикс към идентификатора на модела. Системата отчита и кеширането на подсказките, така че разговорът може да остане при доставчика, който съхранява неговия кеш.

Цената остава тази на доставчика и се начислява във фактурата на Hugging Face, без допълнителна надценка. Потребителите на PRO получават месечен кредит от $2, а организациите с Team и Enterprise — $2 на място. За езиковите модели вече не могат да се използват собствени API ключове на доставчици. Генерирането на изображения, видео и аудио продължава директно чрез Hugging Face Inference Providers.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на Hugging Face. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от Hugging Face на

Прочетете оригинала в Hugging Face ↗

Репортажът и изображението принадлежат на Hugging Face и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини