Nvidia поддержала индийский стартап, помогающий компаниям запускать ИИ-модели на меньшем числе графических процессоров

Поскольку бум искусственного интеллекта создает нагрузку на вычислительные мощности, Nvidia поддержала индийский стартап Simplismart в рамках раунда финансирования на сумму $14 млн, сделав ставку на программное обеспечение, которое помогает компаниям эффективнее запускать модели ИИ и в некоторых случаях использовать меньше графических процессоров.

Nvidia приняла участие в полностью первичном раунде Series B вместе с Accel, Shastra VC и Micromax, а ведущим инвестором выступила Dallas Venture Capital. В результате сделки стоимость четырехлетнего стартапа с учетом нового финансирования составила около $100 млн.

Сегодня компании активно тратят средства на графические процессоры для поддержки приложений на базе ИИ, однако надежный и экономичный запуск таких моделей в масштабах по-прежнему остается сложной задачей. Разные рабочие нагрузки требуют разных компромиссов между скоростью, стоимостью и производительностью. Развертывание и эксплуатация моделей ИИ в соответствии с бизнес-требованиями также часто требуют сложных настроек. Simplismart утверждает, что его программное обеспечение автоматизирует значительную часть этой работы, адаптируя способ запуска моделей под существующую вычислительную инфраструктуру вместо того, чтобы заставлять клиентов самостоятельно управлять этими конфигурациями.

«На самом деле никому не нужны ни самые быстрые, ни самые дешевые операции вывода», — сказал в интервью сооснователь и генеральный директор Simplismart Амританшу Джайн (на фото выше, слева). Он добавил, что компаниям необходимо запускать модели ИИ с такими скоростью и затратами, которые имеют смысл для их конкретных приложений.

Программное обеспечение Simplismart располагается между моделями ИИ и вычислительной инфраструктурой, на которой они работают, и изменяет способы развертывания и управления моделями в соответствии с требованиями клиентов. Компания заявляет, что может оптимизировать такие параметры, как скорость ответа модели, количество обрабатываемых запросов и объем потребляемых вычислительных ресурсов, помогая компаниям эффективнее использовать имеющийся парк графических процессоров.

Стартап из Бангалора предлагает компаниям развертывать и запускать модели ИИ через собственную платформу либо в существующей облачной и локальной инфраструктуре. Он также предоставляет инструменты для дообучения моделей, автоматического масштабирования вычислительных ресурсов по мере изменения спроса и мониторинга производительности. Кроме того, Simplismart позволяет облачным провайдерам создавать и эксплуатировать собственные сервисы вывода ИИ на инфраструктуре с графическими процессорами с помощью своего программного обеспечения.

Simplismart утверждает, что помогла платформе генерации видео на базе ИИ InVideo сократить расходы на обслуживание графических процессоров на 56% благодаря своему программному обеспечению. Стартап также сотрудничает с компаниями в сфере ИИ-видео HeyGen и Higgsfield, а также со стартапом в области корпоративного ИИ Ema и другими клиентами. Кроме того, индийский облачный провайдер Yotta использует технологии Simplismart для работы бессерверного сервиса вывода ИИ в рамках своей платформы Shakti Studio.

По словам Джайна, в беседе с TechCrunch годовой темп роста выручки Simplismart за последние шесть месяцев увеличился в 14 раз и достиг восьмизначной суммы. Этот показатель основан на недавнем использовании сервиса клиентами, а не на объеме контрактной регулярной выручки, и не включает средства, перечисляемые инфраструктурным провайдерам, сообщила компания. Точную сумму он не раскрыл.

Более половины выручки Simplismart приходится на США, несмотря на то, что в Индии у стартапа больше клиентов, сказал Джайн.

Параллельно с инвестициями Nvidia работала с Simplismart над техническими интеграциями, в том числе связанными с ее программным обеспечением для вывода Dynamo, рассказал Джайн TechCrunch. В сотрудничестве участвуют инженеры Simplismart и архитекторы решений Nvidia, при этом Nvidia также помогала знакомить стартап с потенциальными клиентами и партнерами, отметил Джайн.

Интересно, что эти инвестиции создают очевидный парадокс: Nvidia, доминирующий поставщик чипов для ИИ, поддерживает программное обеспечение, которое может помочь компаниям запускать некоторые рабочие нагрузки с использованием меньшего числа графических процессоров. Однако Джайн утверждает, что повышение эффективности вывода ИИ в конечном итоге может пойти Nvidia на пользу, сделав ее оборудование более привлекательным для клиентов и стимулируя более широкое внедрение приложений на базе ИИ.

Simplismart обслуживает клиентов на все более переполненном рынке программного обеспечения для вывода ИИ, конкурируя с предложениями самой Nvidia, а также крупных облачных провайдеров и гиперскейлеров, включая Amazon Web Services, Google Cloud и Microsoft Azure. Все больше стартапов также разрабатывают инструменты для ускорения и удешевления запуска моделей ИИ, поскольку спрос в этом сегменте растет под влиянием увеличения спроса на приложения ИИ и необходимости эффективнее использовать дорогостоящие ресурсы графических процессоров.

«Мы обычно выигрываем там, где от компаний требуется более строго соблюдать SLA [соглашения об уровне обслуживания] и TCO [совокупную стоимость владения]», — сказал Джайн, имея в виду жесткие требования к производительности и строгие ограничения по затратам. По его словам, в отличие от конкурентов, предлагающих готовые варианты более быстрого или более дешевого вывода, Simplismart стремится найти баланс, адаптированный к потребностям каждого клиента.

Компания Simplismart была основана в 2022 году бывшим инженером Oracle Джайном и бывшим инженером Google Деваншем Гхатаком (на фото выше, справа). Стартап вырос из опыта обоих основателей в создании и развертывании систем машинного обучения. Они познакомились во время учебы в BITS Pilani, а сейчас в стартапе работают 58 человек, сказал Джайн.

Simplismart планирует использовать новое финансирование для расширения присутствия в США, увеличения команды и дальнейших инвестиций в разработку программного обеспечения для вывода ИИ. Джайн рассказал TechCrunch, что США остаются ключевым рынком для стартапа, который стремится нарастить существующую клиентскую базу в стране.

Объявление о финансировании последовало за сообщением индийской англоязычной газеты The Economic Times о том, что Simplismart ведет переговоры о привлечении от $40 млн до $50 млн при оценке от $300 млн до $400 млн. Отвечая на вопрос об этой публикации, Джайн отказался от комментариев, заявив, что стартап не проводил активный сбор средств. Он добавил, что раунд Series B закрыт и расширяться не будет.