Новая экономика корпоративного искусственного интеллекта

Представьте, что ваша компания только что открыла для себя электричество. Поначалу лишь несколько машин работают на нём, и никто не беспокоится об эффективности — потребление невелико, а ценность очевидна. Но когда электричество становится инфраструктурой, от него зависит каждый процесс, и вопрос меняется с «можем ли мы его использовать?» на «насколько эффективно мы его используем?»

Корпоративный ИИ переживает такой же переход. То, что начиналось как отдельные эксперименты с чат-ботами и копилотами, становится фундаментальным уровнем бизнеса: модели, агенты и данные всё теснее взаимосвязаны в производственных рабочих нагрузках. Важным становится не вопрос о стоимости токена или часа работы GPU. Вопрос заключается в том, насколько эффективно ИИ-среда превращает оплаченную вычислительную мощность в полезные бизнес-результаты.

Именно эту метрику стоит отслеживать: эффективную стоимость полезного результата — совокупные затраты на платформу, модели, эксплуатацию и вычислительную мощность, необходимые для выполнения работы, которую бизнес действительно может использовать, будь то решение запроса или завершённый рабочий процесс.

Три способа запуска ИИ

Утилизация имеет центральное значение для экономики. Направление большего объёма работы на уже оплаченную вычислительную мощность снижает эффективную стоимость единицы результата; простаивающие GPU, фрагментированные рабочие нагрузки и слишком крупные модели повышают стоимость каждого полезного результата. Как правило, компании выбирают одну из трёх моделей:

Индивидуальный стек — закупка инфраструктуры и средств управления внутри компании. Такой подход обеспечивает гибкость, но создаёт постоянную нагрузку, поскольку командам приходится повторно проверять среду по мере изменения моделей и политик.

Потребление по требованию — гиперскейлеры снижают нагрузку, связанную со сборкой инфраструктуры, и подходят для небольшого или неопределённого спроса, однако плата растёт с каждым запросом или действием агента.

Интегрированная частная ИИ-платформа — принадлежащая компании или выделенная вычислительная мощность в сочетании с проверенным стеком. Преимущество заключается не в бесплатном инференсе, а в контроле над такими рычагами эффективности, как планирование, выбор модели, разделение GPU и управление кэшем.

Правильная модель зависит от рабочей нагрузки. API могут быть рациональным выбором для экспериментов или переменного спроса. По мере того как рабочие нагрузки становятся постоянными и критически важными для бизнеса, компаниям необходимо учитывать не только объём потребления, но и эффективность эксплуатации системы.

Владение — это операционная дисциплина

Покупка гоночного болида Формулы-1 и парковка его в гараже означает владение одним из самых сложных транспортных средств из когда-либо созданных, но само по себе владение не сделает вас конкурентоспособными; вам по-прежнему нужны пилоты, механики и время на трассе, чтобы оправдать такую покупку. С ИИ-инфраструктурой всё так же.

Одно из самых распространённых заблуждений в сфере корпоративного ИИ состоит в том, что владение инфраструктурой автоматически улучшает экономику. Владение GPU создаёт возможность добиться большей эффективности, но только если у организации достаточно спроса и операционной дисциплины, чтобы поддерживать продуктивное использование ресурсов.

Инфраструктура, обеспечивающая наилучшую окупаемость инвестиций, — это не эталонная архитектура и не индивидуальная конфигурация, а полностью интегрированный, квалифицированный стек, позволяющий командам направлять задачи к наименее затратной модели, отвечающей требованиям к качеству, и повторно использовать контекст с помощью таких методов, как управление KV-кэшем, снижая потери вычислительной мощности и сохраняя быстроту отклика.

Без таких практик закреплённая инфраструктура может превратиться в замороженный капитал. При их применении растущий спрос улучшает экономику, поскольку фиксированные затраты распределяются на больший объём полезной работы, что становится всё более важным в агентных системах, где экономика определяется не столько отдельным запросом, сколько эффективностью всей среды.

От развёртывания к ценности

HPE Private Cloud AI — готовая к эксплуатации основа, объединяющая инфраструктуру, программное обеспечение, модели, инструменты, управление и сервисы, что снижает нагрузку, связанную с интеграцией и эксплуатацией частного ИИ в масштабе. Её архитектура позволяет командам управлять планированием, выбором модели, разделением GPU и управлением кэшем как операционными рычагами, согласовывая вычислительную мощность и уровни обслуживания с требованиями каждой рабочей нагрузки. Она также включает 90-дневное сопровождение инженерами, работающими непосредственно с клиентами и помогающими командам заказчика развернуть первоначальные сценарии использования и внедрить повторяемые операционные практики.

В ходе независимого тестирования, проведённого по заказу HPE, интегрированная платформа, обслуживающая несколько рабочих нагрузок при высокой утилизации, обеспечила более низкую эффективную стоимость токена, чем неоднократная аренда эквивалентной вычислительной мощности. Фактические результаты будут зависеть от сочетания рабочих нагрузок и уровня утилизации.

Измеряйте то, что действительно важно

Потребление токенов по-прежнему полезно отслеживать, но это не полная мера экономики ИИ. Более комплексный корпоративный подход учитывает стоимость бизнес-релевантного результата, утилизацию ускорителей и выбор модели относительно сложности задачи.

Компаниям, уже эксплуатирующим частный ИИ, следует оценить зрелость своей утилизации и понять, как изменится объём рабочих нагрузок в ближайшие 12–18 месяцев. Тем, кто находится на более раннем этапе, следует внедрить эти практики с самого первого развёртывания, чтобы стратегия учитывала рост ещё до того, как спрос станет узким местом.

При небольшом и непредсказуемом спросе API или гиперскейлер могут оставаться разумным выбором. Но по мере того как ИИ становится постоянно действующей производственной возможностью, у компаний появляется всё больше стимулов контролировать утилизацию, амортизировать фиксированные затраты и управлять средой как долгосрочным операционным активом. Стратегический вопрос заключается не в том, будут ли компании платить за ИИ, а в том, поймут ли они и в конечном счёте возьмут ли под контроль экономику, лежащую в его основе.

Чтобы узнать больше о HPE Private Cloud AI, посетите HPE.

Этот материал подготовлен HPE. Он не был написан редакцией MIT Technology Review.