Компанії у сфері ШІ з відкритими вагами — найпривабливіші цілі для придбання в Кремнієвій долині
Усі чекають, коли Nvidia підтвердить найцікавішу технологічну угоду цього тижня: придбання за заявлені 13 мільярдів доларів компанії Hugging Face — платформи для обміну відкритими ШІ-моделями та бенчмарками.
Нині Hugging Face найвідоміша як ціль для команди агентів OpenAI, які зламують систему винагород, але компанія перебуває в центрі екосистеми розробників, що створюють і розгортають великі мовні моделі (LLM), які не належать провідним лабораторіям. Уявіть собі щось на кшталт GitHub для ери ШІ.
Чутки про цю угоду з’явилися після того, як Nvidia уклала угоду на 6 мільярдів доларів із Poolside — розробником моделей із відкритими вагами, більшість працівників якого перейде до виробника чипів. А два тижні тому Stripe придбала OpenRouter — провідного постачальника моделей із відкритими вагами для бізнесу — більш ніж за 7 мільярдів доларів.
Це значний потік капіталу в сектор, що ґрунтується на безкоштовному поширенні продуктів, і він відображає останні тенденції в галузі ШІ.
Для Nvidia важливо уникнути подальшої залежності від угод із найбільшими гіпермасштабними хмарними компаніями та провідними лабораторіями. Особливо це актуально з огляду на те, що такі розробники ШІ-моделей, як OpenAI та Google, також створюють власні чипи для інференсу, зокрема Jalapeño від OpenAI, про можливості якого було оголошено цього тижня. Якщо розробники моделей виготовляють чипи, Nvidia хоче отримати частку бізнесу зі створення моделей.
Nvidia вже створює власне сімейство відкритих моделей Nemotron, але широкого поширення вони не набули. Отримавши контроль над найбільшим у США середовищем розробників відкритих моделей, компанія матиме доступ до величезної кількості користувачів, яких зможе спрямовувати до своїх чипів і стандартів.
Також зростає занепокоєння щодо вартості інференсу ШІ, через що компанії вивчають дешевші моделі, створені китайськими компаніями, такими як Moonshot, DeepSeek та Alibaba. Наразі рівень їхнього впровадження відносно низький, але він зростає: згідно з дослідженням даних про витрати компанії Ramp, моделі з відкритими вагами використовують лише 6% компаній, або ж лише 2% інженерів програмного забезпечення — за даними опитування Jellyfish, яка створює інструменти для розробників.
Нік Альбарран, керівник напряму продуктів на основі ШІ в Jellyfish, розповів TechCrunch, що моделі з відкритими вагами переважно використовують компанії, чиї продукти залежать від повторюваних навантажень інференсу, наприклад ті, що надають послуги чатів із клієнтами. Оскільки це масштабні завдання з великою кількістю повторень, модель із відкритими вагами можна налаштувати так, щоб вона дешево відповідала на запитання.
Саме так Stripe пояснювала придбання OpenRouter. «Токени є основною валютою для компаній, які створюють продукти на основі ШІ, і очевидно, що реальний економічний потенціал залежатиме від ефективного використання дефіцитних обчислювальних ресурсів», — заявив у своїй заяві співзасновник і генеральний директор Stripe Патрік Коллісон.
Однак у завданнях із програмування та агентних завданнях різноманітні запити й потреба в більш глибокому міркуванні часто дають перевагу провідним моделям — частково тому, що пропрієтарні лабораторії забезпечують простіший доступ, а в деяких випадках і субсидування токенів. Альбарран каже, що в міру налаштування компаніями робочих процесів на основі ШІ їм буде простіше звертатися до відкритих моделей. Водночас головна причина, через яку компанії зараз звертають увагу на такі моделі, — контроль і можливість налаштування, а не занепокоєння щодо витрат.
«Поки що небагато компаній опинилися в такій ситуації … [але] якщо ціни провідних лабораторій і надалі зростатимуть, дедалі більше компаній будуть змушені принаймні розглянути таку можливість», — розповів Альбарран TechCrunch. «Коли ваші робочі процеси на основі ШІ стануть значно зрілішими, саме тоді матиме сенс інвестувати в самостійне розміщення моделей».
Лінь Цяо — генеральна директорка Fireworks, провідного маршрутизатора та хостингу моделей із відкритими вагами для корпоративних користувачів, який часто називають потенційною ціллю для придбання технологічним гігантом. За словами Цяо, її компанія обробляє 40 трильйонів токенів на день — більше, ніж API Gemini або OpenAI.
Fireworks робить ставку на різноманіття моделей: у міру того як LLM множаться й удосконалюються, компаніям буде простіше навчати їх спеціально під власні потреби. «Кожній компанії, що створює застосунки, варто розглянути можливість найняти власного дослідника», — сказала вона TechCrunch минулого тижня. «Вони можуть використовувати свій продукт і дані про нього, щоб створити власну модель. Майбутнє — за спеціалізованим інтелектом. Буквально кожна компанія повинна мати власну модель для кожного сценарію використання, і це відбуватиметься автоматично».
Легко забути, наскільки раннім є етап розвитку ШІ як інструменту та бізнесу. Однак домінування OpenAI й Anthropic не є неминучим. Поки технологічні гіганти намагаються застрахуватися від ризиків, пов’язаних із найбільшими лабораторіями, привабливість відкритих технологій виявляється надто сильною, щоб їй опиратися.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.