Palantir Foundry и cuOpt оптимизират разпределението във веригата за доставки на NVIDIA

NVIDIA използва Palantir Foundry и cuOpt, за да автоматизира решенията за разпределение в своята хардуерна верига за доставки в глобалните производствени обекти.

Компанията измерва оперативната доставка от излизането на пластината от производството до първия токен. Този период се разделя на време до монтаж в рак (транзитът от изхода на фабриката до сглобената система за център за данни) и време до токен (което обхваща захранването, охлаждането, мрежовата свързаност и готовността на софтуера още от първия ден.)

Управление на потоците от компоненти за NVL72 и Vera Rubin

Мащабирането на хардуера увеличи ограниченията в доставките. Един NVL72 шкаф NVIDIA Grace Blackwell съдържа 18 изчислителни тави, като всяка тава изисква два процесора Grace, четири графични процесора Blackwell и 32 HBM3e модула памет, доставяни от хиляди доставчици, производители на оригинално оборудване и договорни партньори за проектиране.

Предстоящата верига за доставки, изграждана за архитектурата Vera Rubin на NVIDIA, е два пъти по-голяма от мрежата, поддържаща Grace Blackwell.

Сглобяването не може да започне, докато частите не пристигнат по три определени канала: директни наличности, консигнационни запаси и външни доставчици. Ранните доставки трябва да изчакват забавени компоненти, което удължава показателя, наричан от NVIDIA „Време на собственост“ (периодът от момента, в който даден обект получи материалите, до момента, в който завършените подсглобки го напуснат.)

Разпределението към фабриките се преработва ежеседмично в рамките на текущи хоризонти от два тримесечия, за да се разрешат проблемите с наличността на частите, ограниченията на производителността и графиците за изпълнение на поръчките на клиентите.

Смесеноцелочислено линейно програмиране чрез cuOpt

За да координира тези зависимости, оперативният екип на NVIDIA изгради командния център „Digital Supply Chain Intelligence“ с помощта на Palantir Foundry. Онтологията на Foundry моделира обектите и връзките между обектите като свързани съоръжения, ангажименти на доставчици, наличности от компоненти и производствени цели.

NVIDIA cuOpt, библиотека с отворен код за ускорена от графични процесори оптимизация на решения, извлича данни директно от този оперативен слой. Формулирайки разпределението като смесеноцелочислена линейна програма, предназначена да минимизира TOO, решаващият алгоритъм оценява ограниченията за частите на всяко ниво от спецификацията на материалите.

Освен че генерира седмични графици за доставки, cuOpt идентифицира текущите ограничения във фабриките, като например регионални тавани на капацитета за сглобяване спрямо наличността на необработена памет.

Обучение на Nemotron върху качествени оперативни записи

Само математическата оптимизация не успя да обхване неструктурираните оперативни фактори, наблюдавани от човешките планьори, включително стенограми от разговори с доставчици, регионални прогнози за времето, имейл кореспонденция с партньори и геополитически събития.

NVIDIA реши този проблем, като дообучи Nemotron 3.5 Lightning — модел с отворени тегла и смес от експерти, разполагащ с общо 30 милиарда параметъра и приблизително три милиарда активни параметъра при едно предно преминаване.

Инженерният процес обработва историческите записи чрез NeMo Anonymizer, за да редактира чувствителните оперативни полета, NeMo Data Designer, за да балансира обучаващите примери със синтетични сценарии за прекъсване на капацитета, и NeMo AutoModel, за да приложи параметри за нискорангова адаптация (LoRA), като същевременно запази теглата на базовия модел замразени. Palantir Autopilot управлява произхода на данните, проследяването на моделите и предоставянето на препоръки.

Производствени тестове и бъдещо обучение с подсилване

При оценка върху исторически записи за разпределение дообученият модел Nemotron 3.5 Lightning постигна 86,7 процента точност на решенията в сравнение с 55,5 процента за по-големия модел Nemotron 3 Ultra и 17,5 процента за ненастроения базов модел Lightning.

Дообученият модел постигна 58,6 процента балансирана точност и 57,5 процента макро-F1 резултат, надминавайки 42-процентната балансирана точност и 39,5-процентния макро-F1 резултат на Nemotron 3 Ultra.

Финото настройване беше завършено за няколко минути върху два графични процесора NVIDIA B200. Финото настройване в конкретната област подобри решенията за разпределение, макар че прогнозирането на производствените рискове за по-далечен период остана трудно.

Оперативните решения, корекциите на планьорите, ръчните промени и наблюдаваните производствени резултати непрекъснато се записват обратно в онтологията на Palantir.

NVIDIA потвърди, че този набор от данни ще формира двойки за предпочитания за процедури за обучение с подсилване — оценявайки препоръките по точност на разпределението, съответствие с политиките и обосновка с доказателства — като производствените модели остават строго изолирани от обучение в реално време и неконтролирано дообучаване.

Вижте също: Веригите за доставки откриват бързо, действат бавно: Как AI агентите решават проблема

Искате ли да научите повече за AI и големите данни от лидери в индустрията? Посетете AI & Big Data Expo, което се провежда в Амстердам, Калифорния и Лондон. Цялостното събитие е част от TechEx и се провежда едновременно с други водещи технологични събития, включително Cyber Security & Cloud Expo. Кликнете тук за повече информация.

AI News се поддържа от TechForge Media. Разгледайте други предстоящи събития и уебинари за корпоративни технологии тук.