Ramp пусна Router за насочване на заявки между AI модели
Ramp представи Router — услуга чрез API, която позволява на потребители и компании да използват и сменят големи езикови модели от различни доставчици. Засега продуктът е достъпен само в САЩ. Компанията посочва, че е разработвала и използвала системата вътрешно през последните три години.
Router предлага модели от OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Неговите стратегии могат да предпочетат гъвкавите тарифни нива на дадени доставчици, да избират модел според до три зададени от клиента показателя, да насочват само по-сложните задачи към по-скъпи модели или да улесняват тестването без ръчна смяна. Таблото показва разхода на токени, цената, латентността и опитите за резервно насочване.
Router е безплатен до края на 2026 г., но клиентите ще плащат самите разходи за инференция. Ramp предлага и кредит от $26 при старта, без да е обявила цената за 2027 г. По подразбиране услугата съхранява входове, изходи и извиквания на инструменти за една година, като има възможност за отказ. Компанията заявява, че премахва личните данни, преди да използва съдържанието за подобряване на продукта.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.