Проектиране на паметта и съхранението в ерата на ИИ

Ерата на AI инференса настъпи. Представете си здравна система, която анализира милиони точки данни в реално време, за да ускори животоспасяващи медицински изследвания, или интелигентен асистент, който незабавно разрешава хиляди сложни клиентски казуси едновременно. Тези реални пробиви разчитат на усъвършенствана инфраструктура, която действа като двигател на непрекъснатата интелигентност, захранвайки услуги в реално време и същевременно поддържайки все по-интелигентен периферен слой от IoT и потребителски устройства. В този пейзаж, движен от инференса, всяко забавяне, тясно място или пропилян ват пряко влияе върху човешките резултати и оперативните разходи. 

Тази промяна променя и това, което инфраструктурата трябва да осигурява. Производителността, латентността, пропускателната способност на паметта, пропускателната способност на хранилищата и мрежите не могат да бъдат оптимизирани изолирано. Инференс натоварванията са непрекъснати, географски разпределени и силно чувствителни към времето за отговор, което изисква системи, проектирани от самото начало за мащаб, устойчивост и ефективност.

„Склонни сме да мислим за AI като за едно-единствено натоварване, но това не е така. Те са хиляди, милиони, милиарди различни натоварвания“, казва Джим Макгрегър, основател и главен анализатор в Tirias Research. AI инференсът променя задачата по оптимизация — от сурова изчислителна мощ към координирана инфраструктура, включваща памет, хранилища и мрежи.

За бизнес лидерите приоритетът е ясен: решенията за AI инфраструктура трябва да балансират разходи, гъвкавост и готовност за бъдещето. Печеливши ще бъдат организациите, които подобряват производителността на ват, намаляват отпечатъка върху околната среда и премахват тесните места в паметта и хранилищата, преди те да ограничат растежа.

AI инференсът изисква нов архитектурен подход

Системите за AI трябва да бъдат препроектирани, тъй като приспособяването на съвременните AI системи към наследена инфраструктура ограничава трансформиращия им потенциал. Специално създадените архитектури са от съществено значение за реализирането на истинската стойност на AI — от ускоряването на научните открития до създаването на наистина автономни дигитални агенти.

Традиционните корпоративни IT системи са можели да разчитат на относително стабилни инфраструктурни предположения, но инференсът и агентният AI въвеждат нови изисквания по отношение на латентността, преместването на данни, мащабируемостта и използваемостта, което прави архитектурните решения много по-значими.

„Центровете за данни вече трябва да поддържат непрекъснати, разпределени и все по-реално-времеви AI услуги — нито една от които не представлява едно-единствено натоварване“, казва Макгрегър. „От системна гледна точка всички те изискват различни характеристики.“

За да поддържат AI в реално време, предприятията вече не могат да разглеждат паметта и хранилищата просто като поддържащ хардуер — те са в основата на системата. Организациите трябва да проектират конвейер за данни, който може бързо да приема, изчиства, трансформира, съхранява, премества и доставя данни. Инференс натоварванията оказват постоянен натиск върху инфраструктурата по начини, които се различават значително от по-ранните внедрявания, фокусирани върху обучението, като изискват непрекъснато извличане и кеширане на данни, от които традиционните приложения никога не са имали нужда.

Съответно производителността сама по себе си вече не е единственият важен показател. Предприятията все повече трябва да балансират производителност, ефективност, разходи и мащабируемост, особено когато се опитват да поддържат различни AI услуги, без да изграждат прекомерно инфраструктура за пикови натоварвания.

„Трябва да оптимизирате цялата мрежа, включително паметта и хранилищата, спрямо типовете натоварвания, които планирате да изпълнявате“, казва Макгрегър. „Наистина трябва да имате детайлно разбиране за това какви ще бъдат тези натоварвания.“

Всяка стратегия за AI инфраструктура трябва да започва с познаване на натоварванията. Инференсът, агентният AI и други нововъзникващи AI приложения изискват от организациите да разглеждат центъра за данни като интегрирана система.

Преместването на данни е новото тясно място и възможност за конкурентно предимство

С разгръщането на усъвършенствани инференс и агентни системи огромният обем данни, към които се отправят заявки в реално време, превърна преместването на данни в най-належащото ограничение. Съвременни AI техники като генериране с допълнено извличане (RAG) изискват системите постоянно да сканират огромни бази данни, за да генерират точни отговори. Това изисква огромна изчислителна мощ, но още по-важен е незабавният достъп до данните.

Макгрегър казва, че фокусът върху това колко ефективно данните могат да бъдат премествани, кеширани и доставяни в рамките на по-широката архитектура издига паметта и хранилищата от фонова инфраструктура до стратегически активи. „Най-важното, което правим в момента, е да преместваме данни от едно място на друго и да се уверяваме, че можем да ги използваме ефективно.“

Тъй като AI не е единна категория натоварвания, простото закупуване на най-бързите процесори не е достатъчно. Инференсът зависи до голяма степен от пропускателната способност на паметта, кеширането, близостта до хранилищата и способността за бързо и последователно извличане на релевантна информация. Разбирането къде се намира всеки ресурс в стека и как тези слоеве взаимодействат при реални условия на работа се превърна в бизнес императив.

Най-ефективната AI инфраструктура прилича по-малко на съвкупност от най-добрите компоненти и повече на балансирана система от изчислителни ресурси, памет, хранилища и мрежи, казва Макгрегър, тъй като тесните места обикновено се преместват от един слой към следващия. „Трябва да проектирате и четирите заедно, за да постигнете ефективност — и това е предизвикателството.“

Взаимозависимостта между дизайна на равнината за данни и мрежовата пропускателна способност означава, че планирането на AI инфраструктурата се е превърнало в бизнес решение не по-малко, отколкото в инженерно: латентността вече е неразделна от стойността. В роботиката, финансовите услуги, здравеопазването и системите за AI, насочени към клиенти, забавянията не са просто технически несъвършенства; те могат да подкопаят безопасността, отзивчивостта или доверието. Производителността на AI инфраструктурата се превръща във въпрос на управление на репутацията.

Организациите, които извличат най-голяма полза от AI, може да не са тези с най-големите клъстери, а тези с най-ясно разбиране как да съгласуват всеки инфраструктурен елемент за ефективно изпълнение на AI натоварванията.

Изграждане на рамка за закупуване на AI инфраструктура

Планирането на AI инфраструктура не се свежда просто до избора на най-бързия хардуер. То е въпрос на това как да се мащабира, без организацията да бъде обвързана с предположения, които бързо могат да остареят. „Трябва да сте гъвкави, защото изискванията ще се променят бързо, а технологиите също се променят бързо“, казва Макгрегър.

Осигуряването на готовност за бъдещето на AI инфраструктурата изисква да запазите възможностите си отворени, докато натоварванията, икономическите условия и архитектурите продължават да се променят:

• Определете AI натоварванията, които се оптимизират. Изборът на инфраструктура трябва да съответства на бизнес нуждите, а не на това, което Макгрегър нарича обща „готовност за AI“, която крие риск от прекомерни разходи в някои области, като същевременно оставя нерешени тесни места в други.
• Изградете модулна архитектура за изчислителни ресурси, памет, хранилища, захранване и охлаждане, така че капацитетът да може да се променя с промяната на търсенето, вместо да се ангажирате твърде рано с негъвкава архитектура.
• Работете с цялата екосистема от доставчици и интегратори, за да намалите риска, свързан с доставките, и да подобрите достъпа до подходящите компоненти. Макгрегър казва, че купувачите вече не могат да приемат, че само техният OEM производител или доставчик на облачни услуги ще ги предпази от ограничения в доставките или архитектурна сложност.
• Преоценявайте непрекъснато стратегията си за закупуване. Изискванията към AI, хардуерът и бизнес моделите се променят твърде бързо за фиксиран дългосрочен дизайн.
• Оптимизирайте за ефективност и възвръщаемост на инвестициите, а не само за върхова производителност. Най-мощната конфигурация може да се окаже твърде скъпа за поддържане. Ефективността е и показател, видим за обществеността — по-доброто използване и по-съобразеният с натоварванията дизайн на системите могат да помогнат на компаниите да отговорят на нарастващото внимание към потреблението на електроенергия и вода.

Стратегическата цел на по-интелигентния дизайн на AI центровете за данни не е максимална производителност на всяка цена, а адаптивна архитектура, която може да създава стойност, да поема промени и да оправдава своя отпечатък.

AI инфраструктурата вече е бизнес стратегия

AI центровете за данни бързо се превърнаха от технически въпрос в задния план в стратегически бизнес системи, които помагат да се определи колко ефективно една организация може да превърне AI в приходи, да подобри човешките резултати и да създаде конкурентно предимство.

В ерата на инференса паметта и хранилищата вече не са пасивни хранилища, обяснява Макгрегър, а активна жизнена сила на AI. Организациите, които извличат най-голяма полза от AI, не непременно ще бъдат тези с най-големия изчислителен отпечатък, а тези, които съгласуват инвестициите в инфраструктура с бизнес резултатите, намаляват тесните места при данните и изграждат гъвкавост за адаптиране към развитието на натоварванията. Той прогнозира, че конкурентното предимство все повече ще принадлежи на предприятията, които разглеждат изчислителните ресурси, паметта, хранилищата и мрежите като интегрирана система, проектирана да доставя AI ефективно, в мащаб и с измерима възвръщаемост на инвестициите.

Закупуването вече е стратегия, а проектирането на системата е въпрос на лидерство, заключава Макгрегър. „Един от най-важните въпроси, които всеки ръководител трябва да си зададе, е как AI ще промени моя бизнес модел?“

Това съдържание е създадено от Insights, звеното за специално съдържание на MIT Technology Review, а не от редакционния му екип. То е проучено и написано от хора, като всички AI инструменти, които може да са били използвани, са били ограничени до производствени процеси под човешки надзор.