Могат ли центровете за данни за ИИ да се произвеждат серийно като автомобили? Този стартъп иска да разбере

Компанията за AI инфраструктура Runware отново е в новините само няколко месеца след представянето на Sonic Inference Pod — модулен център за данни, изграден във фабрика и доставян на клиентите в готов за инсталиране вид. Сега компанията има по-големи планове. Тя заяви пред TechCrunch, че иска да изгради фабрика, в която тези модули да се сглобяват на производствена линия, сякаш са автомобили.

Идеята не е напълно нова. Компании като Crusoe и Schneider Electric също продават предварително фабрично изработени модули, но Runware твърди, че може да доставя своите модули по-бързо. 

Флавиу Фъдулеску, съосновател и главен изпълнителен директор на Runware, заяви пред TechCrunch, че компанията планира да увеличи производството в базираната в Румъния фабрика до 30 мегавата капацитет на центрове за данни дневно до 2028 г., или почти 1 гигават месечно. Това е огромен капацитет: с такъв темп Runware би произвеждала за една година приблизително толкова, колкото се очакваше да бъде добавено към мощността на центровете за данни в САЩ през тази година — около 10 гигавата. Но това също отразява стремежа на цялата индустрия да внедрява центрове за данни по-бързо и по-ефективно. 

Например Nvidia обяви AI фабриките Vera Rubin и DSX POD по-рано тази година. И двете решения имат за цел да направят изграждането на собствени AI центрове за данни от компаниите по-бързо и по-лесно. Разликата при Runware обаче е, че компанията твърди, че действително е изградила фабрика, вместо просто да проектира инфраструктурата, която би позволила на други да изградят такава. 

Фъдулеску заяви, че Runware постепенно ще увеличава производството, започвайки от следващата година, и че вече разполага с две фабрики — едната се използва от няколко години за изграждане на модулите, а втората е започнала да се изгражда по-рано тази година. Очаква се втората да бъде завършена в рамките на няколко месеца и да започне работа в началото на следващата година. 

Runware ще произвежда модулните центрове за данни на монтажна линия. Клиентите могат да осигурят собствен терен за сглобяването им или Runware може да намери такъв вместо тях. Фъдулеску заяви, че Runware цели да пусне модулите в експлоатация в рамките на 48 часа. Това време обхваща инсталирането и настройката, но не и самото изграждане. Един модул преди е отнемал три седмици за изграждане, но скоро ще може да бъде изработен за един ден с увеличаването на производството, посочва компанията. Runware ще осигурява резервни части при повреда на компоненти. Клиентите могат също да наемат изчислителни ресурси от Runware или да предоставят собствени графични процесори и да плащат месечна такса за модулите и експлоатацията им. Електричеството и интернетът се таксуват отделно, каза той. 

Модулите могат да бъдат персонализирани и според предпочитанията на клиентите, каза той. Те имат стандартен дизайн, но могат да бъдат конфигурирани така, че да отговарят на изискванията на клиентите и на най-новите чипове за графични процесори. След поръчването си чиповете могат да пристигнат след дълго време, което работи в полза на Runware. „Сроковете ни за доставка на модулите също са по-кратки от настоящите срокове за доставка на графични процесори, което ни дава време да адаптираме инфраструктурата към поръчания хардуер“, каза той. „При новите поколения графични процесори вътрешният ни хардуерен екип може сам да проектира, изгради и тества компонентите, което ни позволява да се адаптираме бързо.“ 

Засега всичко това са планове — изпълнението ще бъде истинският тест. Фабриката ще се нуждае от много хора, наличности, логистика по веригата на доставки и средства. Има поучителни примери за опити за преосмисляне на производството, най-вече при стартъпа за електромобили Arrival, чиято оценка някога достигаше над 13 млрд. долара, но който изпитваше трудности да произвежда масово електромобили рентабилно в сравнение с традиционните заводи. Runware, която досега е набрала над 60 млн. долара, заяви, че планира да набере финансиране от серия B, но засега завършва и стартира фабриката със средствата от серия A на стойност 50 млн. долара, набрани през декември миналата година.

„Структурата на разходите ни е много различна“, каза Фъдулеску, обяснявайки как Runware се стреми да избегне съдбата на Arrival. „Имаме разходи за персонал и материали“, продължи той. „Но персоналът във фабриката ни е рентабилен спрямо стойността на внедряването на изчислителни ресурси за AI.“ Той също така заяви, че проектирането на собствени системи и закупуването на широко достъпни и достъпни части помага за поддържането на ниски разходи. „Привлякохме високоопитен ръководител на завод от автомобилната индустрия, който да работи заедно с нашия ръководител на хардуерния отдел и да ни помогне да изпълним правилно този план.“

Осигуряването на компоненти също може да се окаже предизвикателство. Макар Runware да заявява, че проектира и изгражда собствените си системи за охлаждане и други системи на модулите със стандартни компоненти, някои части, като помпи и вентилатори, идват от Германия, а компанията все още зависи от Nvidia за мрежовото оборудване. Въпреки това Runware твърди, че е получила ангажименти за интерес на стойност 1 млрд. долара към своите модули Sonic, откакто преди месец е започнала да ги предлага на външни клиенти, „което представлява над 20 мегавата, чието доставяне вече подготвяме“, каза Фъдулеску.

Центровете за данни в САЩ и чужбина са обект на критики заради количеството енергия, което потребяват, и влиянието му върху електропреносната мрежа и други ресурси. Когато беше попитан по този въпрос, Фъдулеску заяви, че модулите на компанията му се нуждаят само от електричество и интернет връзка. Те ще използват затворена система за течно охлаждане с радиатори с въздушно охлаждане за отвеждане на топлината, така че всъщност няма да се нуждаят от водопроводна връзка. „Работим с доставчици на електроенергия по списък от терени, обхващащ 397 мегавата, с потенциал за разширяване до 1,2 гигавата“, каза той, имайки предвид списъка с планирани терени и добавяйки, че компанията разполага своите модулни центрове за данни на терени, които са много по-малки от използваните от хиперскейлъри като Amazon, Microsoft и Google.

Тези терени, продължи той, обикновено вече разполагат с електрозахранване, така че не би трябвало да натоварват допълнително мрежата или да нарушават живота на местните общности. Модулите също работят „напълно безшумно при температури до 86 градуса по Фаренхайт. Използваме енергия от възобновяеми източници винаги когато е възможно“, продължи той. „Активно работим за разширяване на мрежата ни от доставчици на енергия и терени. Целта ни е възобновяемите източници да бъдат основният ни енергиен източник.“

Следващата стъпка за Runware е да пусне новата си фабрика в експлоатация в началото на следващата година, а след това да се разшири в САЩ и други региони по света. Модулните системи са бъдещето и скоро ще се превърнат в „стандарт за мащабно внедряване на AI“, каза Фъдулеску.

„Клиентите трябва да могат да планират хипермащабен център за данни с фабрично произведени модули още от самото начало и да го пуснат в действие за месеци, а не за години“, добави той.