Ramp запускает собственный маршрутизатор ИИ-моделей под названием Router

Платформа управления корпоративными расходами Ramp наступает Stripe на пятки в создании «платных шлагбаумов» для ИИ-инференса.

В среду вечером Ramp запустила собственный сервис маршрутизации ИИ-моделей под названием Router, который позволяет пользователям и компаниям через API работать с различными большими языковыми моделями и переключаться между ними. Компания заявляет, что использует созданный ею маршрутизатор для собственных потребностей в ИИ уже три года.

Сервис доступен только в США. До конца 2026 года им можно пользоваться бесплатно (пользователям по-прежнему придется оплачивать расходы на инференс ИИ-моделей), а также сервис предоставляет стартовый кредит в размере $26. Компания не сообщила, сколько сервис будет стоить в следующем году.

По своим функциям Router довольно похож на OpenRouter, хотя последний предлагает гораздо больше вариантов ИИ-моделей, чем текущий сервис Ramp.

Router предоставляет доступ к моделям OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Он также предлагает несколько «стратегий», которые помогают клиентам направлять запросы к моделям с учетом их предпочтений. Например, одна из них позволяет пользователям отдавать предпочтение гибким тарифным уровням провайдеров моделей, а другая дает Router возможность выбирать модель для направления запросов на основе до трех заданных пользователем бенчмарков. Пользователи также могут направлять только сложные задачи дорогим моделям или легко тестировать модели без необходимости переключаться между ними.

Пользователи также получают доступ к панели управления, где могут просматривать расходы на токены, стоимость, задержку, попытки переключения на резервные варианты и другие сведения.

Примечательно, что Router использует политику хранения данных с возможностью отказа: по умолчанию сервис будет в течение года записывать входные данные и результаты работы моделей, а также вызовы инструментов, однако компания заявляет, что будет удалять «персональные данные перед использованием этого контента для улучшения продукта».

Для Ramp выход на рынок маршрутизации моделей открывает сразу две возможности: компания сможет воспользоваться стремительно растущим рынком ИИ-инференса, а также предложить существующим клиентам сервис маршрутизации моделей, который органично вписывается в ее текущие продукты, включая мониторинг использования токенов ИИ и управление расходами на токены.

Кроме того, если Router окажется столь же привлекательной площадкой для тестирования моделей, как OpenRouter, Ramp сможет выстроить долгосрочные отношения с ИИ-лабораториями и поставщиками инфраструктуры для инференса по всему миру. Это может помочь Ramp, которая в привлекла $750 миллионов при оценке в $44 миллиарда в июне, получить новых клиентов и новую точку входа для продажи своих продуктов по управлению расходами.