Hugging Face прехвърля маршрутизирането на езикови модели към OpenRouter
Hugging Face и OpenRouter започват партньорство за по-лесен достъп до модели с отворени тегла. Моделите, публикувани в Hugging Face Hub, могат да се извикват чрез един и същ API с Hugging Face токен, когато са поддържани от съответния доставчик. Заявките към езикови модели вече преминават през OpenRouter, който избира доставчик според актуални измервания на цена, скорост и надеждност и може да повтори заявката при повреда.
Интеграцията поддържа API-тата Chat Completions и Responses на OpenAI, както и Messages API на Anthropic за чат модели. Съществуващият код не се променя. Потребителите могат да зададат политика за маршрутизиране или конкретен доставчик чрез суфикс към идентификатора на модела. Системата отчита и кеширането на подсказките, така че разговорът може да остане при доставчика, който съхранява неговия кеш.
Цената остава тази на доставчика и се начислява във фактурата на Hugging Face, без допълнителна надценка. Потребителите на PRO получават месечен кредит от $2, а организациите с Team и Enterprise — $2 на място. За езиковите модели вече не могат да се използват собствени API ключове на доставчици. Генерирането на изображения, видео и аудио продължава директно чрез Hugging Face Inference Providers.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Hugging Face. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.