Ramp запускає власний маршрутизатор моделей ШІ під назвою Router

Платформа управління корпоративними витратами Ramp наступає на п’яти Stripe, створюючи платні шлюзи для AI-інференсу.

У середу ввечері Ramp запустила власний сервіс маршрутизації AI-моделей під назвою Router, який дає змогу користувачам і компаніям використовувати та перемикатися між різними великими мовними моделями через API. У компанії кажуть, що протягом останніх трьох років використовували створений ними маршрутизатор для власних потреб у роботі з ШІ.

Сервіс доступний лише у США. До кінця 2026 року ним можна користуватися безкоштовно (користувачам все одно доведеться платити за витрати на AI-інференс), а також він передбачає стартову пропозицію у вигляді кредиту на $26. Компанія не повідомила, скільки коштуватиме сервіс наступного року.

За функціональністю Router дуже схожий на OpenRouter, хоча останній пропонує значно більше варіантів AI-моделей, ніж поточний перелік Ramp.

Router надає доступ до моделей OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI та Z.ai. Він також пропонує кілька «стратегій», які допомагають клієнтам спрямовувати AI-запити до моделей відповідно до їхніх уподобань. Наприклад, одна з них дає змогу користувачам встановити пріоритет для гнучких рівнів використання постачальників моделей, а інша дає Router змогу обирати, до якої моделі спрямовувати запити, на основі до трьох визначених користувачем бенчмарків. Користувачі також можуть спрямовувати до дорогих моделей лише складні завдання або легко тестувати моделі без необхідності перемикатися між ними.

Користувачі також отримують інформаційну панель, де можуть переглядати витрати токенів, вартість, затримку, спроби резервного перемикання та інші деталі.

Примітно, що Router має політику зберігання даних, від якої можна відмовитися: за замовчуванням він зберігатиме вхідні дані моделей, вихідні дані та виклики інструментів протягом одного року, хоча в компанії кажуть, що видалятимуть «персональні дані перед використанням цього контенту для вдосконалення продукту».

Для Ramp вихід на ринок маршрутизації моделей відкриває подвійну можливість: компанія може долучитися до стрімко зростаючого ринку AI-інференсу, а також запропонувати своїм чинним клієнтам сервіс маршрутизації моделей, який органічно доповнює наявні продукти, зокрема моніторинг використання AI-токенів і управління витратами на токени.

А якщо Router виявиться таким же привабливим майданчиком для тестування моделей, як OpenRouter, Ramp також зможе побудувати довготривалі відносини з AI-лабораторіями та постачальниками інференсу по всьому світу. Це може допомогти Ramp, яка залучила $750 мільйонів за оцінки у $44 мільярди в червні, отримати нових клієнтів і нову точку входу для продажу своїх продуктів з управління витратами.