Ramp пуска собствен маршрутизатор на AI модели, наречен Router

Платформата за управление на корпоративни разходи Ramp е по петите на Stripe в изграждането на пунктове за таксуване на AI инференцията.

В сряда вечерта Ramp представи собствена услуга за маршрутизиране на AI модели, наречена Router, която позволява на потребители и компании да използват и превключват между различни големи езикови модели чрез API. Компанията заяви, че през последните три години е използвала създадения от нея рутер за собствените си нужди, свързани с AI.

Услугата е достъпна само в Съединените щати. Тя е безплатна до края на 2026 г. (потребителите все пак ще трябва да плащат разходите за инференция на AI моделите) и включва стартов кредит от 26 долара. Компанията не съобщи колко ще струва услугата през следващата година.

По функциите си Router до голяма степен прилича на OpenRouter, макар че последната услуга предлага много повече опции за AI модели от настоящите предложения на Ramp.

Router предоставя достъп до модели на OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Той също така предлага няколко „стратегии“, които помагат на клиентите да насочват AI заявките към модели според своите предпочитания. Например едната позволява на потребителите да зададат предпочитание към гъвкавите нива на използване на доставчиците на модели, докато друга позволява на Router да избере към кой модел да насочи заявките въз основа на до три зададени от потребителя показателя. Потребителите могат също да насочват само трудните задачи към скъпи модели или лесно да тестват модели, без да се налага да превключват.

Потребителите получават и табло, което им позволява да виждат разхода на токени, цената, латентността, опитите за резервно насочване и други подробности.

Важно е да се отбележи, че Router има политика за съхранение на данни с възможност за отказ: по подразбиране той ще записва входовете, изходите и извикванията на инструменти към моделите за една година, макар че компанията заявява, че ще премахва „лично идентифицируема информация, преди да използва това съдържание за подобряване на продукта“.

За Ramp навлизането в бизнеса с маршрутизиране на модели предлага двупосочна възможност: компанията може да се възползва от процъфтяващия пазар на AI инференция, а също така да предложи на съществуващите си клиенти услуга за маршрутизиране на модели, която се вписва естествено в настоящите ѝ продукти, включително мониторинг на използването на AI токени и управление на разходите за токени.

Ако Router се окаже толкова привлекателна среда за тестване на модели, колкото OpenRouter, Ramp може също да успее да изгради дългосрочни отношения с AI лаборатории и доставчици на инференция по целия свят. Това би могло да помогне на Ramp, която наб=ира 750 милиона долара при оценка от 44 милиарда долара през юни, да привлече нови клиенти и да открие нов път за продажба на продуктите си за управление на разходи.