Palantir Foundry і cuOpt оптимізують розподіл у ланцюжку постачання NVIDIA

NVIDIA використовує Palantir Foundry і cuOpt для автоматизації рішень щодо розподілу апаратного забезпечення у своєму ланцюзі постачання між глобальними виробничими майданчиками.

Компанія вимірює операційну доставку від виходу пластини до першого токена. Цей проміжок поділяється на час до встановлення стійки (період від випуску на фабриці до зібраної системи центру обробки даних) і час до першого токена (охоплює готовність живлення, охолодження, мережі та програмного забезпечення в перший день).

Керування потоками компонентів NVL72 і Vera Rubin

Масштабування апаратного забезпечення посилило обмеження постачання. Одна стійка NVIDIA Grace Blackwell NVL72 містить 18 обчислювальних лотків, кожен із яких потребує двох процесорів Grace, чотирьох графічних процесорів Blackwell і 32 корпусів пам’яті HBM3e, що постачаються тисячами постачальників, OEM-виробників і партнерів із контрактного проєктування.

Майбутній ланцюг постачання, створений для архітектури NVIDIA Vera Rubin, удвічі більший за мережу, що підтримує Grace Blackwell.

Складання не може розпочатися, доки деталі не надійдуть із трьох визначених каналів: безпосередніх запасів, консигнаційних запасів і зовнішніх постачальників. Ранні поставки мають чекати на затримані компоненти, збільшуючи показник, який NVIDIA називає «часом володіння» (період від моменту отримання матеріалів об’єктом до моменту відправлення готових підвузлів).

Розподіл між фабриками переглядається щотижня в межах ковзних горизонтів у два квартали, щоб узгодити доступність деталей, обмеження пропускної здатності та графіки виконання замовлень клієнтів.

Змішано-цілочисельне лінійне програмування за допомогою cuOpt

Для координації цих залежностей операційна команда NVIDIA створила командний центр «Digital Supply Chain Intelligence» за допомогою Palantir Foundry. Онтологія Foundry моделює об’єкти та зв’язки між майданчиками, зобов’язаннями постачальників, запасами компонентів і виробничими цілями.

NVIDIA cuOpt — бібліотека з відкритим вихідним кодом для оптимізації рішень із GPU-прискоренням — безпосередньо зчитує цей операційний рівень. Формулюючи розподіл як змішано-цілочисельну лінійну програму, розроблену для мінімізації TOO, розв’язувач оцінює обмеження щодо деталей на кожному рівні специфікації матеріалів.

Окрім формування щотижневих графіків поставок, cuOpt визначає поточні обмеження фабрик, як-от регіональні ліміти виробничих потужностей зі складання порівняно з доступністю необробленої пам’яті.

Навчання Nemotron на якісних операційних записах

Однієї математичної оптимізації було недостатньо для врахування неструктурованих операційних змінних, які спостерігали планувальники, зокрема стенограм дзвінків із постачальниками, регіональних прогнозів погоди, листування з партнерами та геополітичних подій.

NVIDIA розв’язала цю проблему, донавчивши Nemotron 3.5 Lightning — модель суміші експертів із відкритими вагами, що має загалом 30 мільярдів параметрів і приблизно три мільярди активних параметрів за один прямий прохід.

Інженерний конвеєр обробляє історичні записи через NeMo Anonymizer для редагування чутливих операційних полів, NeMo Data Designer для збалансування навчальних прикладів за допомогою синтетичних сценаріїв збоїв потужностей, а також NeMo AutoModel для застосування параметрів низькорангової адаптації (LoRA), зберігаючи ваги базової моделі замороженими. Palantir Autopilot керує походженням даних, відстеженням моделей і доставкою рекомендацій.

Виробничі бенчмарки та майбутнє навчання з підкріпленням

Під час оцінювання на історичних записах розподілу донавчена модель Nemotron 3.5 Lightning досягла точності рішень 86,7 відсотка порівняно з 55,5 відсотка для більшої моделі Nemotron 3 Ultra та 17,5 відсотка для неналаштованої базової моделі Lightning.

Донавчена модель досягла збалансованої точності 58,6 відсотка та макрооцінки F1 на рівні 57,5 відсотка, перевершивши збалансовану точність Nemotron 3 Ultra у 42 відсотки та макрооцінку F1 на рівні 39,5 відсотка.

Тонке налаштування на двох графічних процесорах NVIDIA B200 було завершено за лічені хвилини. Доменне тонке налаштування покращило рішення щодо розподілу, хоча прогнозування виробничих ризиків на віддаленіший період залишалося складним.

Операційні рішення, зміни планувальників, перевизначення та спостережувані результати роботи фабрик безперервно записуються назад в онтологію Palantir.

NVIDIA підтвердила, що цей набір даних сформує пари переваг для процедур навчання з підкріпленням — оцінюючи рекомендації за точністю розподілу, відповідністю політикам і обґрунтованістю доказами, — тоді як виробничі моделі залишатимуться суворо ізольованими від перенавчання в реальному часі та без моніторингу.

Дивіться також: Ланцюги постачання швидко виявляють, але повільно діють: як ШІ-агенти це виправляють

Хочете дізнатися більше про ШІ та великі дані від лідерів галузі? Відвідайте AI & Big Data Expo, що відбудеться в Амстердамі, Каліфорнії та Лондоні. Цей масштабний захід є частиною TechEx і проходитиме одночасно з іншими провідними технологічними заходами, зокрема з Cyber Security & Cloud Expo. Натисніть тут, щоб дізнатися більше.

AI News працює на базі TechForge Media. Ознайомтеся з іншими майбутніми заходами та вебінарами у сфері корпоративних технологій тут.