Sakhanda Wire
NVDA $150.96 -2.89% MSFT $508.29 +0.40% GOOGL $282.44 +0.80% META $616.38 -0.40% AMZN $267.74 +3.82%
← Към новините

Ramp пусна Router за насочване на заявки между AI модели

Ramp представи Router — услуга чрез API, която позволява на потребители и компании да използват и сменят големи езикови модели от различни доставчици. Засега продуктът е достъпен само в САЩ. Компанията посочва, че е разработвала и използвала системата вътрешно през последните три години.

Router предлага модели от OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Неговите стратегии могат да предпочетат гъвкавите тарифни нива на дадени доставчици, да избират модел според до три зададени от клиента показателя, да насочват само по-сложните задачи към по-скъпи модели или да улесняват тестването без ръчна смяна. Таблото показва разхода на токени, цената, латентността и опитите за резервно насочване.

Router е безплатен до края на 2026 г., но клиентите ще плащат самите разходи за инференция. Ramp предлага и кредит от $26 при старта, без да е обявила цената за 2027 г. По подразбиране услугата съхранява входове, изходи и извиквания на инструменти за една година, като има възможност за отказ. Компанията заявява, че премахва личните данни, преди да използва съдържанието за подобряване на продукта.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини