Palantir Foundry и cuOpt оптимизируют распределение в цепочке поставок NVIDIA

NVIDIA использует Palantir Foundry и cuOpt для автоматизации решений по распределению оборудования в своей цепочке поставок между производственными площадками по всему миру.

Компания измеряет операционные сроки поставки от выхода пластины до получения первого токена. Этот период делится на время до установки в стойку (транспортировка от выпуска на фабрике до собранной системы центра обработки данных) и время до получения токена (включает готовность электропитания, охлаждения, сети и программного обеспечения в первый день.)

Управление потоками компонентов NVL72 и Vera Rubin

Масштабирование оборудования усилило ограничения поставок. Одна стойка NVIDIA Grace Blackwell NVL72 содержит 18 вычислительных модулей, каждый из которых требует два процессора Grace, четыре графических процессора Blackwell и 32 корпуса памяти HBM3e, поставляемых тысячами поставщиков, OEM-производителей и партнёров по контрактной разработке.

Предстоящая цепочка поставок, создаваемая для архитектуры NVIDIA Vera Rubin, вдвое больше сети, поддерживающей Grace Blackwell.

Сборка не может начаться, пока детали не поступят по одному из трёх назначенных каналов: прямые складские запасы, консигнационные запасы и внешние поставщики. Ранние поставки вынуждены ждать задерживающиеся компоненты, увеличивая показатель, который NVIDIA называет «Time of Ownership» (период от получения материалов предприятием до отправки готовых узлов.)

Распределение по фабрикам пересматривается еженедельно на протяжении скользящего горизонта в два квартала для решения вопросов доступности деталей, ограничений пропускной способности и графиков выполнения заказов клиентов.

Смешанно-целочисленное линейное программирование с помощью cuOpt

Для координации этих зависимостей операционная команда NVIDIA создала командный центр «Digital Supply Chain Intelligence» на базе Palantir Foundry. Онтология Foundry моделирует предприятия, обязательства поставщиков, запасы компонентов и производственные цели как взаимосвязанные объекты и связи.

NVIDIA cuOpt — библиотека с открытым исходным кодом для оптимизации решений с ускорением на графических процессорах — напрямую считывает этот операционный уровень. Представляя распределение в виде смешанно-целочисленной линейной программы, разработанной для минимизации TOO, решатель оценивает ограничения по деталям на каждом уровне спецификации материалов.

Помимо формирования еженедельных графиков поставок, cuOpt выявляет действующие ограничения фабрик, например региональные ограничения максимальной сборочной мощности по сравнению с доступностью исходной памяти.

Обучение Nemotron на качественных операционных данных

Одной математической оптимизации оказалось недостаточно для учёта неструктурированных операционных переменных, которые наблюдали планировщики-люди, включая расшифровки звонков с поставщиками, региональные прогнозы погоды, переписку по электронной почте с партнёрами и геополитические события.

NVIDIA решила эту проблему, дообучив Nemotron 3.5 Lightning — модель смеси экспертов с открытыми весами, включающую в общей сложности 30 миллиардов параметров и около трёх миллиардов активных параметров на один прямой проход.

Инженерный конвейер обрабатывает исторические записи с помощью NeMo Anonymizer для удаления конфиденциальных операционных полей, NeMo Data Designer для балансировки обучающих примеров с синтетическими сценариями перебоев в производственных мощностях и NeMo AutoModel для применения параметров низкоранговой адаптации (LoRA) при сохранении весов базовой модели неизменными. Palantir Autopilot управляет происхождением данных, отслеживанием моделей и предоставлением рекомендаций.

Производственные тесты и будущее обучение с подкреплением

При оценке на исторических данных о распределении дообученная модель Nemotron 3.5 Lightning достигла точности решений 86,7 процента по сравнению с 55,5 процента у более крупной модели Nemotron 3 Ultra и 17,5 процента у ненастроенной базовой модели Lightning.

Дообученная модель достигла сбалансированной точности 58,6 процента и показателя macro-F1 57,5 процента, превзойдя Nemotron 3 Ultra с её сбалансированной точностью 42 процента и показателем macro-F1 39,5 процента.

Тонкая настройка завершилась за несколько минут на двух графических процессорах NVIDIA B200. Тонкая настройка в предметной области улучшила решения по распределению, однако прогнозирование производственных рисков на более длительный период оставалось сложной задачей.

Операционные решения, изменения планировщиков, переопределения и наблюдаемые результаты работы фабрик непрерывно записываются обратно в онтологию Palantir.

NVIDIA подтвердила, что этот набор данных станет основой для пар предпочтений в процедурах обучения с подкреплением — рекомендации будут оцениваться по точности распределения, соблюдению политик и обоснованности на основе фактических данных, — при этом производственные модели будут строго изолированы от оперативного и неконтролируемого дообучения.

См. также: Цепочки поставок быстро обнаруживают, но медленно действуют: как ИИ-агенты решают эту проблему

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите AI & Big Data Expo, которая пройдёт в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими мероприятиями, включая Cyber Security & Cloud Expo. Нажмите здесь, чтобы узнать больше.

AI News работает при поддержке TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах в сфере корпоративных технологий здесь.