Проєктування пам’яті та сховищ в епоху ШІ

Ера AI-інференсу настала. Уявіть систему охорони здоров’я, яка аналізує мільйони точок даних у реальному часі, щоб пришвидшити життєво важливі медичні дослідження, або інтелектуального помічника, який миттєво одночасно розв’язує тисячі складних запитів клієнтів. Ці реальні прориви залежать від передової інфраструктури, що слугує двигуном безперервного інтелекту, забезпечуючи роботу сервісів у реальному часі та водночас підтримуючи дедалі інтелектуальніший периферійний рівень IoT і споживчих пристроїв. Однак у цьому ландшафті, що визначається інференсом, кожна затримка, вузьке місце або марно витрачений ват безпосередньо впливають на результати для людей і операційні витрати. 

Ця зміна трансформує вимоги до інфраструктури. Продуктивність, затримка, пропускна здатність пам’яті, швидкість передавання даних у сховищі та мережеві можливості більше не можна оптимізувати ізольовано. Інференсні навантаження є безперервними, географічно розподіленими та надзвичайно чутливими до часу відповіді, тому системи від самого початку мають проєктуватися з урахуванням масштабованості, відмовостійкості та ефективності.

«Ми схильні думати про AI як про єдине робоче навантаження, але це не так. Це тисячі, мільйони, мільярди різних робочих навантажень», — каже Джим Мак-Грегор, засновник і головний аналітик Tirias Research. Інференс AI змінює завдання оптимізації: від простих обчислювальних потужностей до скоординованої інфраструктури — пам’яті, сховища та мереж.

Для керівників бізнесу пріоритет очевидний: рішення щодо інфраструктури AI мають забезпечувати баланс між вартістю, гнучкістю та готовністю до майбутнього. Переможцями стануть організації, які підвищать продуктивність на ват, зменшать вплив на довкілля та усунуть вузькі місця в пам’яті й сховищі ще до того, як вони почнуть обмежувати зростання.

Інференс AI потребує нового архітектурного підходу

Системи для AI потребують перебудови, оскільки спроби втиснути сучасні AI-системи в застарілу інфраструктуру обмежують трансформаційний потенціал AI. Спеціально розроблені архітектури необхідні для реалізації справжньої цінності AI — від пришвидшення наукових відкриттів до створення справді автономних цифрових агентів.

Традиційні корпоративні ІТ-системи могли покладатися на відносно стабільні припущення щодо інфраструктури, але інференс і агентний AI створюють нові вимоги до затримки, переміщення даних, масштабованості та рівня використання ресурсів, через що архітектурні рішення стають значно важливішими.

«Тепер центри обробки даних мають підтримувати безперервні, розподілені та дедалі більш орієнтовані на роботу в реальному часі AI-сервіси — і жоден із них не є одним-єдиним робочим навантаженням», — каже Мак-Грегор. «З погляду системного рівня всі вони висувають різні вимоги».

Щоб підтримувати AI у реальному часі, підприємства більше не можуть розглядати пам’ять і сховище лише як допоміжне обладнання — вони мають бути в центрі системи. Організаціям потрібно спроєктувати конвеєр даних, здатний швидко отримувати, очищати, перетворювати, зберігати, переміщувати та доставляти дані. Інференсні навантаження створюють постійний тиск на інфраструктуру, що суттєво відрізняється від попередніх розгортань, орієнтованих на навчання, і вимагає безперервного отримання даних і кешування, яких традиційні застосунки ніколи не потребували.

Відповідно, сама по собі продуктивність більше не є єдиним важливим критерієм. Підприємствам дедалі частіше доводиться балансувати продуктивність з ефективністю, вартістю та масштабованістю, особливо коли вони намагаються підтримувати різні AI-сервіси, не створюючи надмірну інфраструктуру для пікових навантажень.

«Потрібно оптимізувати всю мережу, включно з пам’яттю та сховищем, з урахуванням типів робочих навантажень, які ви плануєте запускати, — каже Мак-Грегор. — Ви справді маєте детально розуміти, якими будуть ці робочі навантаження».

Будь-яка стратегія інфраструктури AI має починатися з розуміння робочих навантажень. Інференс, агентний AI та інші нові варіанти використання AI вимагають від організацій розглядати центр обробки даних як інтегровану систему.

Переміщення даних — нове вузьке місце та можливість для конкурентної переваги

У міру розгортання підприємствами передових інференсних і агентних систем сам обсяг даних, які запитуються в реальному часі, перетворив переміщення даних на найбільш нагальне обмеження. Сучасні методи AI, як-от генерація з доповненням пошуком (RAG), вимагають від систем постійно сканувати величезні бази даних для формування точних відповідей. Це потребує величезної обчислювальної потужності, але, що важливіше, — негайного доступу до даних.

За словами Мак-Грегора, зміщення уваги до того, наскільки ефективно дані можна переміщувати, кешувати та доставляти в межах ширшої архітектури, перетворює пам’ять і сховище з фонового елемента інфраструктури на стратегічні активи. «Найважливіше, що ми зараз робимо, — переміщуємо дані з одного місця в інше й переконуємося, що можемо ефективно їх використовувати».

Оскільки AI не є єдиною категорією робочого навантаження, просто придбати найшвидші процесори недостатньо. Інференс значною мірою залежить від пропускної здатності пам’яті, кешування, близькості сховища та можливості швидко й стабільно отримувати релевантну інформацію. Розуміння того, де кожен ресурс має розташовуватися в стеку і як ці рівні взаємодіють у реальних умовах експлуатації, стало нагальною потребою бізнесу.

Найефективніша інфраструктура AI, за словами Мак-Грегора, більше схожа не на набір найкращих у своєму класі компонентів, а на збалансовану систему обчислень, пам’яті, сховища та мереж, оскільки вузькі місця мають тенденцію переміщуватися з одного рівня на інший. «Щоб забезпечити ефективність, потрібно проєктувати всі чотири компоненти разом — і в цьому полягає виклик».

Взаємозалежність між проєктуванням площини даних і пропускною здатністю мережі означає, що планування інфраструктури AI стало не меншою мірою бізнесовим, ніж інженерним рішенням: затримка тепер невіддільна від цінності. У робототехніці, фінансових послугах, охороні здоров’я та AI-системах, орієнтованих на клієнтів, затримки — це не просто технічні недоліки; вони можуть підірвати безпеку, оперативність або довіру. Продуктивність інфраструктури AI стає питанням управління репутацією.

Найбільше від AI можуть виграти не організації з найбільшими кластерами, а ті, хто найкраще розуміє, як узгодити кожен елемент інфраструктури для ефективного виконання робочих навантажень AI.

Формування підходу до закупівлі інфраструктури AI

Планування інфраструктури AI — це не просто вибір найшвидшого обладнання. Йдеться про те, як масштабуватися, не прив’язуючи організацію до припущень, які можуть швидко застаріти. «Потрібно залишатися гнучкими, оскільки вимоги швидко змінюватимуться, і технології також швидко змінюються», — каже Мак-Грегор.

Підготовка інфраструктури AI до майбутнього вимагає зберігати відкритими різні варіанти, поки робочі навантаження, економічні умови та архітектури продовжують змінюватися:

• Визначте робочі навантаження AI, які оптимізуються. Вибір інфраструктури має відповідати потребам бізнесу, а не тому, що Мак-Грегор називає загальною «готовністю до AI», яка може призвести до надмірних витрат в одних сферах, залишаючи невирішеними вузькі місця в інших.
• Створюйте модульну архітектуру для обчислень, пам’яті, сховища, живлення та охолодження, щоб потужність можна було змінювати відповідно до зміни попиту, а не надто рано прив’язуватися до жорсткої архітектури.
• Працюйте з усією екосистемою постачальників та інтеграторів, щоб зменшити ризики постачання й покращити доступ до потрібних компонентів. Мак-Грегор зазначає, що покупці більше не можуть припускати, ніби сам лише OEM-виробник або хмарний провайдер захистить їх від обмежень постачання чи архітектурної складності.
• Безперервно переоцінюйте свою стратегію закупівель. Вимоги до AI, обладнання та бізнес-моделі змінюються надто швидко для фіксованого довгострокового проєкту.
• Оптимізуйте ефективність і рентабельність інвестицій, а не лише пікову продуктивність. Найпотужніша конфігурація може виявитися надто дорогою для підтримки. Ефективність також є показником, помітним для громадськості: краще використання ресурсів і проєктування систем з урахуванням робочих навантажень можуть допомогти компаніям реагувати на посилення уваги до споживання електроенергії та води.

Стратегічна мета розумнішого проєктування центрів обробки даних AI — не максимальна продуктивність за будь-яку ціну, а адаптивна архітектура, здатна створювати цінність, пристосовуватися до змін і виправдовувати свій ресурсний та екологічний слід.

Інфраструктура AI тепер є бізнес-стратегією

Центри обробки даних AI швидко еволюціонували від суто технічного питання внутрішньої інфраструктури до стратегічних бізнес-систем, які допомагають визначати, наскільки ефективно організація може перетворювати AI на дохід, покращувати результати для людей і створювати конкурентну перевагу.

У епоху інференсу пам’ять і сховище більше не є пасивними репозиторіями, пояснює Мак-Грегор, — вони є активною життєвою силою AI. Найбільше від AI виграватимуть не обов’язково організації з найбільшим обчислювальним ресурсом, а ті, що узгоджують інвестиції в інфраструктуру з бізнес-результатами, зменшують вузькі місця в роботі з даними та створюють гнучкість для адаптації в міру еволюції робочих навантажень. Він прогнозує, що конкурентна перевага дедалі більше належатиме підприємствам, які розглядають обчислення, пам’ять, сховище та мережі як інтегровану систему, спроєктовану для ефективної роботи AI у масштабі та з вимірюваною рентабельністю інвестицій.

«Закупівлі тепер є стратегією, а проєктування системи — питанням лідерства, — підсумовує Мак-Грегор. — Одне з найважливіших питань, яке має поставити собі кожен керівник: як AI змінить мою бізнес-модель?»

Цей матеріал підготував підрозділ Insights, що займається замовним контентом MIT Technology Review, а не його редакція. Його досліджували та писали люди, а будь-які інструменти AI, які могли використовуватися, були обмежені виробничими процесами під наглядом людей.