Sakhanda Wire
NVDA MSFT GOOGL META AMZN
← К новостям

Преимущество Nvidia в области ИИ выходит за пределы GPU

До этой недели преобладающий рассказ о Nvidia выглядел примерно так: в первые несколько лет бума ИИ Nvidia была единственным поставщиком передовых GPU, которые стали чрезвычайно прибыльными по мере масштабирования отрасли. В последние несколько лет гиперскейлеры вроде Amazon и Google начали создавать собственные чипы, и Nvidia больше не остается единственным игроком на рынке, заставляя многих инвесторов задуматься о том, насколько устойчиво ее преимущество на самом деле.

Это убедительная история и в основном правдивая. После десятикратного роста рыночной капитализации Nvidia с начала 2023 года до середины 2025-го акции компании в течение последнего года двигались более умеренно на фоне опасений по поводу конкуренции на рынке GPU.

После публикации финансовых результатов компании в среду начал формироваться новый нарратив, и инвесторы начинают осознавать, что преимущество Nvidia выходит далеко за пределы GPU. По мере того как вычислительные мощности ИИ достигают масштаба в гигагатты, их оркестрация становится все более сложной задачей. Неудивительно, что Nvidia создала большую часть передового оборудования, необходимого для ее решения, что дает компании огромное преимущество в системах, окружающих GPU, даже несмотря на усиление конкуренции непосредственно в сфере GPU. 

Несмотря на все разговоры о вычислительных мощностях как сырьевом товаре, эксплуатация дата-центра мегамасштаба с максимальной эффективностью по-прежнему невероятно сложна — и по мере того, как развертывания становятся масштабнее и быстрее, эта задача лишь усложняется.

Стойка за стойкой

Некоторые из этих особенностей можно увидеть, просто взглянув на детали того, что именно продает Nvidia. Сейчас компания выводит на рынок архитектуру Vera Rubin, которая объединяет GPU Rubin с набором других компонентов, включая CPU Vera, ускоритель инференса Groq 3 LPX и аналогичные стойки для хранения данных и сетевого взаимодействия.

В течение последней недели я беседовал с сотрудниками Nvidia о том, чем на самом деле занимаются эти системы, и результаты оказались удивительными. Как и сам GPU Rubin, это чрезвычайно специализированные системы, но вместо обработки токенов они обеспечивают максимально эффективную работу всего, что находится за пределами GPU. Если GPU — это двигатель, то они представляют собой остальные части автомобиля.

CPU Vera в особенности предназначен для решения задачи оркестрации данных. «Vera важна, потому что в один сервер или любую вычислительную платформу такого рода можно установить лишь ограниченный объем памяти», — рассказал мне Джейсон Харди, вице-президент Nvidia по технологиям хранения данных. 

По мере наращивания вычислительной мощности дата-центров увеличивался и объем памяти, поэтому такие компании, как Micron, разбогатели во время второй волны инфраструктурного бума. Но доставить эти данные к GPU в нужный момент непросто — и по мере того, как компании стремятся все сильнее снижать показатель количества токенов на ватт, они понимают, насколько важно такое управление трафиком.

«Мы увидели более чем трехкратное улучшение в этих операциях благодаря ускорению, которое обеспечивает CPU Vera, — сказал Харди. — Теперь мы можем использовать нашу флеш-память на полную мощность, поскольку способны извлечь из нее всю производительность, не создавая узкого места».

Версии той же проблемы можно увидеть и за пределами Nvidia. Когда OpenAI разрабатывала свой чип Jalapeño, одной из главных задач было полностью избежать этих сложностей за счет минимизации объема данных, которые необходимо перемещать.

«Мы разработали Jalapeño так, чтобы минимизировать перемещение данных и задержки при обмене информацией, — заявила компания в сообщении в блоге ранее в этом месяце. — Его большая область позволяет всей рабочей нагрузке оставаться внутри одной подключенной системы, минимизируя перемещение данных и помогая сохранять полный запрос быстрым и эффективным от начала до конца».

Это иной подход: перемещение данных полностью исключается за счет выполнения рабочей нагрузки внутри одного интегрированного чипа. Но общая логика остается той же — повышение эффективности благодаря более интеллектуальному управлению трафиком, а не простому увеличению числа процессорных циклов. В свою очередь, это открывает совершенно новый уровень инфраструктуры, в котором компании могут конкурировать друг с другом.

Новый фокус на оркестрации данных не означает автоматически победу Nvidia. Компании придется конкурировать с производителями соперничающих чипов и гиперскейлерами так же, как она конкурировала с ними в сфере GPU. Но конкуренция переместилась на новый уровень, где создание конкурирующего GPU имеет меньшее значение, чем способность обеспечить эффективную работу всей системы. 

И по крайней мере на ранних этапах Nvidia, похоже, обладает значительным преимуществом.

Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Текст и изображения принадлежат TechCrunch и приводятся здесь с указанием авторства и ссылкой на оригинальную публикацию.

← К новостям

Ещё новости

Все последние новости