Nvidia підтримала індійський стартап, який допомагає компаніям запускати моделі ШІ на меншій кількості графічних процесорів

Оскільки бум штучного інтелекту створює навантаження на обчислювальні потужності, Nvidia підтримала індійський стартап Simplismart у раунді фінансування на $14 мільйонів, зробивши ставку на програмне забезпечення, яке допомагає компаніям ефективніше запускати моделі ШІ, а в деяких випадках — із меншою кількістю графічних процесорів.

Nvidia взяла участь у раунді Series B, що складався виключно з первинних інвестицій, разом з Accel, Shastra VC і Micromax, тоді як Dallas Venture Capital очолила інвестицію. Угода оцінює чотирирічний стартап приблизно у $100 мільйонів з урахуванням нового фінансування.

Нині компанії витрачають значні кошти на графічні процесори для роботи застосунків ШІ, але надійний та економічно ефективний запуск таких моделей у масштабі залишається складним завданням. Різні робочі навантаження вимагають різних компромісів між швидкістю, вартістю та продуктивністю. Розгортання й експлуатація моделей ШІ відповідно до бізнес-вимог часто також потребують складних налаштувань. Simplismart заявляє, що його програмне забезпечення автоматизує значну частину цієї роботи, адаптуючи спосіб роботи моделей на наявній обчислювальній інфраструктурі замість того, щоб змушувати клієнтів самостійно керувати цими конфігураціями.

«Насправді нікому не потрібні ані найшвидший, ані найдешевший інференс», — сказав в інтерв’ю співзасновник і генеральний директор Simplismart Амрітаншу Джайн (на фото вище, ліворуч). Він додав, що натомість компаніям потрібно запускати моделі ШІ зі швидкістю та за вартістю, які мають сенс для їхніх конкретних застосунків.

Програмне забезпечення Simplismart розташовується між моделями ШІ та обчислювальною інфраструктурою, на якій вони працюють, і налаштовує спосіб розгортання та керування моделями відповідно до вимог клієнтів. Компанія заявляє, що може оптимізувати такі параметри, як швидкість відповіді моделі, кількість запитів, які вона обробляє, і обсяг обчислювальних потужностей, які вона споживає, допомагаючи компаніям отримувати більше від наявного набору графічних процесорів.

Стартап із Бенгалуру пропонує компаніям спосіб розгортати й запускати моделі ШІ через власну платформу або в межах наявної хмарної та локальної інфраструктури. Він також надає інструменти для донавчання моделей, автоматичного масштабування обчислювальних ресурсів у міру зміни попиту та моніторингу продуктивності. Крім того, Simplismart дозволяє хмарним провайдерам створювати й експлуатувати власні сервіси інференсу ШІ на інфраструктурі з графічними процесорами за допомогою свого програмного забезпечення.

Simplismart заявляє, що допоміг платформі генерації відео за допомогою ШІ InVideo скоротити витрати на обслуговування графічних процесорів на 56% завдяки своєму програмному забезпеченню. Стартап також працює з компаніями у сфері відео на основі ШІ HeyGen і Higgsfield, а також зі стартапом у сфері корпоративного ШІ Ema та іншими клієнтами. Крім того, індійський хмарний провайдер Yotta використовує технологію Simplismart для роботи безсерверного сервісу інференсу ШІ у своїй платформі Shakti Studio.

За словами Джайна, в інтерв’ю TechCrunch річний прогнозований виторг Simplismart за останні шість місяців зріс у 14 разів і досяг восьмизначної суми. Компанія зазначила, що цей показник ґрунтується на нещодавньому використанні сервісу клієнтами, а не на укладених контрактах із регулярними доходами, і не враховує доходи, що передаються інфраструктурним провайдерам. Точну суму він не розкрив.

За словами Джайна, понад половину доходу Simplismart надходить зі США, попри те, що в Індії у стартапу більше клієнтів.

Паралельно з інвестицією Nvidia працювала із Simplismart над технічними інтеграціями, зокрема пов’язаними з її програмним забезпеченням для інференсу Dynamo, розповів Джайн TechCrunch. Співпраця охоплює інженерів Simplismart і архітекторів рішень Nvidia, а Nvidia також допомагала знайомити стартап із потенційними клієнтами та партнерами, зазначив Джайн.

Цікаво, що інвестиція створює очевидний парадокс: Nvidia, домінуючий постачальник чипів для ШІ, підтримує програмне забезпечення, яке може допомогти компаніям запускати деякі робочі навантаження з меншою кількістю графічних процесорів. Однак Джайн стверджував, що підвищення ефективності інференсу ШІ зрештою може бути вигідним для Nvidia, зробивши її обладнання привабливішим для клієнтів і стимулюючи ширше впровадження застосунків ШІ.

Simplismart обслуговує клієнтів на дедалі більш переповненому ринку програмного забезпечення для інференсу ШІ, конкуруючи з пропозиціями самої Nvidia, а також великих хмарних провайдерів і гіперскейлерів, зокрема Amazon Web Services, Google Cloud і Microsoft Azure. Зростає кількість стартапів, які також розробляють інструменти для пришвидшення та здешевлення роботи моделей ШІ, оскільки попит у цьому сегменті зростає через збільшення попиту на застосунки ШІ та потребу ефективніше використовувати дорогі ресурси графічних процесорів.

«Ми зазвичай перемагаємо там, де компаніям потрібно суворіше дотримуватися своїх SLA [угод про рівень обслуговування] і TCO [сукупної вартості володіння]», — сказав Джайн, маючи на увазі жорсткі вимоги до продуктивності та суворі обмеження щодо витрат. На відміну від конкурентів, які пропонують заздалегідь визначені варіанти для швидшого або дешевшого інференсу, Simplismart прагне знайти баланс, адаптований до потреб кожного клієнта, сказав він.

Компанію Simplismart заснували у 2022 році колишній інженер Oracle Джайн і колишній інженер Google Деванш Гатак (на фото вище, праворуч). Стартап виріс із досвіду обох у створенні та розгортанні систем машинного навчання. Вони познайомилися під час навчання в BITS Pilani, а нині в стартапі працюють 58 людей, розповів Джайн.

Simplismart планує використати нове фінансування для розширення присутності у США, збільшення команди та подальших інвестицій у розвиток свого програмного забезпечення для інференсу. Джайн розповів TechCrunch, що США залишаються ключовим ринком для стартапу, який прагне розвивати наявну клієнтську базу в країні.

Оголошення про фінансування з’явилося після повідомлення індійської англомовної щоденної газети The Economic Times про те, що Simplismart веде переговори щодо залучення від $40 мільйонів до $50 мільйонів за оцінки компанії від $300 мільйонів до $400 мільйонів. Відповідаючи на запитання про це повідомлення, Джайн відмовився від коментарів, заявивши, що стартап не здійснював активний збір коштів. Він додав, що раунд Series B закритий і розширюватися не буде.