NVIDIA автоматизира разпределението на доставки с Palantir и cuOpt
NVIDIA използва Palantir Foundry и библиотеката за GPU-ускорена оптимизация cuOpt, за да автоматизира решенията за разпределение на хардуер между производствени обекти по света. Компанията измерва периода от излизането на пластината от фабриката до първия токен. Този показател включва времето до монтиране на системата в център за данни и времето до готовност за първоначален софтуерен товар, включително захранване, охлаждане и мрежова свързаност.
Един стелаж NVIDIA Grace Blackwell NVL72 има 18 изчислителни тави, като всяка изисква два Grace CPU, четири Blackwell GPU и 32 HBM3e пакета памет. Те идват от хиляди доставчици и партньори. Мрежата за бъдещата архитектура Vera Rubin е два пъти по-голяма. Разпределенията към фабриките се преработват всяка седмица за период от два тримесечия, за да се съобразят наличностите, капацитетът и графиците за клиентите.
Онтологията на Foundry свързва обекти като заводи, ангажименти на доставчици, запаси и производствени цели. cuOpt ги използва в смесено-целочислен модел, чиято цел е да намали „Time of Ownership“ — времето от получаването на материалите до изпращането на готовите подмодули. NVIDIA е дообучила Nemotron 3.5 Lightning върху анонимизирани оперативни записи. При исторически данни моделът е постигнал 86,7% точност на решенията, спрямо 55,5% за Nemotron 3 Ultra и 17,5% за необучената версия Lightning.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на AI News. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.