Проектирование памяти и хранения данных в эпоху ИИ

Эра ИИ-инференса наступила. Представьте систему здравоохранения, анализирующую миллионы точек данных в режиме реального времени, чтобы ускорить жизненно важные медицинские исследования, или интеллектуального помощника, мгновенно обрабатывающего тысячи сложных запросов клиентов одновременно. Эти реальные прорывы зависят от передовой инфраструктуры, которая выступает двигателем непрерывного интеллекта, обеспечивая работу сервисов в реальном времени и одновременно поддерживая всё более интеллектуальный периферийный уровень интернета вещей и потребительских устройств. Однако в этой среде, ориентированной на инференс, каждая задержка, узкое место или напрасно потраченный ватт напрямую влияют на результаты для людей и эксплуатационные расходы. 

Этот переход меняет требования к инфраструктуре. Производительность, задержка, пропускная способность памяти, скорость работы хранилищ и сетевые возможности нельзя оптимизировать изолированно друг от друга. Инференсные нагрузки являются непрерывными, географически распределёнными и крайне чувствительными к времени отклика, поэтому системы с самого начала должны проектироваться с учётом масштабируемости, отказоустойчивости и эффективности.

«Мы склонны думать об ИИ как об одной рабочей нагрузке, но это не так. Речь идёт о тысячах, миллионах, миллиардах различных рабочих нагрузок», — говорит Джим Макгрегор, основатель и главный аналитик Tirias Research. Инференс ИИ меняет задачу оптимизации: вместо необработанной вычислительной мощности на первый план выходит согласованная инфраструктура — память, хранилища и сети.

Для руководителей компаний приоритет очевиден: решения в области ИИ-инфраструктуры должны обеспечивать баланс между стоимостью, гибкостью и готовностью к будущим изменениям. Победителями станут организации, которые повышают производительность на ватт, сокращают воздействие на окружающую среду и устраняют узкие места в памяти и хранилищах до того, как они начнут ограничивать рост.

Инференс ИИ требует нового архитектурного подхода

Системы для ИИ необходимо перестраивать, поскольку попытки встроить современные ИИ-системы в устаревшую инфраструктуру ограничивают преобразующий потенциал ИИ. Специализированные архитектуры необходимы для реализации истинной ценности ИИ — от ускорения научных открытий до создания действительно автономных цифровых агентов.

Традиционная корпоративная ИТ-инфраструктура могла опираться на относительно стабильные предположения, однако инференс и агентный ИИ предъявляют новые требования к задержке, перемещению данных, масштабируемости и утилизации ресурсов, что делает архитектурный выбор гораздо более значимым.

«Теперь центры обработки данных должны поддерживать непрерывные, распределённые и всё более работающие в реальном времени ИИ-сервисы — и ни один из них не является одной рабочей нагрузкой, — говорит Макгрегор. — С точки зрения системы в целом каждый из них предъявляет свои требования».

Для поддержки ИИ в реальном времени предприятия больше не могут рассматривать память и хранилища лишь как вспомогательное оборудование — они находятся в самом центре системы. Организациям необходимо проектировать конвейер данных, способный быстро принимать, очищать, преобразовывать, хранить, перемещать и предоставлять данные. Инференсные нагрузки оказывают постоянное давление на инфраструктуру, существенно отличаясь от прежних развёртываний, ориентированных прежде всего на обучение, и требуют непрерывного извлечения данных и кэширования, которые традиционным приложениям никогда не были нужны.

Соответственно, сама по себе производительность больше не является единственным важным показателем. Предприятиям всё чаще приходится находить баланс между производительностью, эффективностью, стоимостью и масштабируемостью, особенно когда они стремятся поддерживать различные ИИ-сервисы, не создавая избыточную инфраструктуру для пиковых нагрузок.

«Необходимо оптимизировать всю сеть, включая память и хранилища, с учётом типов рабочих нагрузок, которые вы планируете запускать, — говорит Макгрегор. — Нужно действительно детально понимать, что это будут за нагрузки».

Любая стратегия ИИ-инфраструктуры должна начинаться с понимания рабочих нагрузок. Инференс, агентный ИИ и другие новые варианты использования ИИ требуют от организаций рассматривать центр обработки данных как интегрированную систему.

Перемещение данных — новое узкое место и возможность получить конкурентное преимущество

По мере того как предприятия развёртывают передовые инференсные и агентные системы, огромный объём данных, запрашиваемых в реальном времени, сделал перемещение данных самым острым ограничением. Современные методы ИИ, такие как генерация с дополненной выборкой (RAG), требуют от систем постоянного сканирования огромных баз данных для формирования точных ответов. Это требует огромной вычислительной мощности, но ещё важнее — немедленного доступа к данным.

По словам Макгрегора, смещение внимания к тому, насколько эффективно данные можно перемещать, кэшировать и предоставлять в рамках более широкой архитектуры, превращает память и хранилища из фоновой инфраструктуры в стратегические активы. «Самое важное, чем мы сейчас занимаемся, — перемещаем данные из одного места в другое и следим за тем, чтобы эффективно их использовать».

Поскольку ИИ не является единой категорией рабочих нагрузок, простой покупки самых быстрых процессоров недостаточно. Инференс в значительной степени зависит от пропускной способности памяти, кэширования, близости хранилищ и способности быстро и стабильно извлекать релевантную информацию. Понимание того, где каждый ресурс должен находиться в стеке и как эти уровни взаимодействуют в реальных условиях эксплуатации, стало необходимым условием для бизнеса.

По словам Макгрегора, наиболее эффективная ИИ-инфраструктура меньше похожа на набор лучших в своём классе компонентов и больше — на сбалансированную систему вычислительных ресурсов, памяти, хранилищ и сетей, поскольку узкие места имеют тенденцию перемещаться с одного уровня на другой. «Чтобы обеспечить эффективность, нужно проектировать все четыре компонента вместе — и в этом заключается сложность».

Взаимозависимость проектирования плоскости данных и пропускной способности сети означает, что планирование ИИ-инфраструктуры стало в равной степени и бизнес-решением, и инженерной задачей: задержка теперь неотделима от ценности. В робототехнике, финансовых услугах, здравоохранении и ориентированных на клиентов ИИ-системах задержки — это не просто технические недостатки; они могут подрывать безопасность, оперативность или доверие. Производительность ИИ-инфраструктуры становится вопросом управления репутацией.

Наибольшую выгоду от ИИ получат, возможно, не организации с крупнейшими кластерами, а те, кто лучше всего понимает, как согласовать каждый элемент инфраструктуры для эффективного выполнения ИИ-нагрузок.

Создание основы для закупки ИИ-инфраструктуры

Планирование ИИ-инфраструктуры — это не просто выбор самого быстрого оборудования. Речь идёт о том, как масштабироваться, не загоняя организацию в рамки предположений, которые вскоре могут устареть. «Нужно сохранять гибкость, потому что требования будут быстро меняться, как и технологии», — говорит Макгрегор.

Подготовка ИИ-инфраструктуры к будущему требует сохранять открытыми различные варианты по мере того, как продолжают меняться рабочие нагрузки, экономика и архитектуры:

• Определите ИИ-нагрузки, которые необходимо оптимизировать. Выбор инфраструктуры должен соответствовать потребностям бизнеса, а не тому, что Макгрегор называет общей «готовностью к ИИ», поскольку такой подход чреват перерасходом в одних областях при сохранении узких мест в других.
• Создайте модульную архитектуру для вычислительных ресурсов, памяти, хранилищ, электропитания и охлаждения, чтобы изменять ёмкость по мере изменения спроса, а не слишком рано переходить к жёсткой архитектуре.
• Работайте со всей экосистемой поставщиков и системных интеграторов, чтобы снизить риски поставок и улучшить доступ к нужным компонентам. По словам Макгрегора, покупатели больше не могут рассчитывать, что только их OEM-поставщик или облачный провайдер защитит их от ограничений поставок или архитектурной сложности.
• Постоянно пересматривайте стратегию закупок. Требования к ИИ, оборудование и бизнес-модели меняются слишком быстро для фиксированной долгосрочной архитектуры.
• Оптимизируйте эффективность и окупаемость инвестиций, а не только пиковую производительность. Самая мощная конфигурация может оказаться слишком дорогой для поддержания. Эффективность также является публичным показателем — более высокая утилизация и более ориентированное на рабочие нагрузки проектирование систем могут помочь компаниям реагировать на усиливающийся контроль за потреблением электроэнергии и воды.

Стратегическая цель более рационального проектирования ИИ-центров обработки данных заключается не в достижении максимальной производительности любой ценой, а в создании адаптивной архитектуры, способной приносить пользу, принимать изменения и оправдывать занимаемый ею ресурс.

ИИ-инфраструктура теперь является бизнес-стратегией

Центры обработки данных для ИИ быстро превратились из технической задачи внутреннего уровня в стратегические бизнес-системы, помогающие определить, насколько эффективно организация может превращать ИИ в доход, улучшать результаты для людей и создавать конкурентное преимущество.

В эпоху инференса память и хранилища больше не являются пассивными репозиториями, объясняет Макгрегор, — они представляют собой активную основу ИИ. Наибольшую выгоду от ИИ получат не обязательно организации с крупнейшими вычислительными ресурсами, а те, кто увязывает инвестиции в инфраструктуру с бизнес-результатами, устраняет узкие места в работе с данными и создаёт гибкость для адаптации по мере развития рабочих нагрузок. Он прогнозирует, что конкурентное преимущество всё чаще будет принадлежать предприятиям, которые рассматривают вычислительные ресурсы, память, хранилища и сети как интегрированную систему, предназначенную для эффективной работы ИИ в масштабе и с измеримой окупаемостью инвестиций.

Закупки теперь являются частью стратегии, а проектирование систем — вопросом руководства, заключает Макгрегор. «Один из главных вопросов, который должен задать себе каждый руководитель: как ИИ изменит мою бизнес-модель?»

Этот материал подготовлен подразделением Insights, отвечающим за заказной контент MIT Technology Review, а не его редакцией. Исследование и текст подготовлены людьми; любые инструменты ИИ, которые могли использоваться, применялись только в производственных процессах под контролем человека.