Руководство показывает модульный рабочий процесс Kauldron
В руководстве рассматривается Kauldron — библиотека обучения на JAX от Google Research, рассчитанная на ускорение исследований и модульную разработку. Примеры выполняются на синтетических данных в памяти и на CPU, без загрузки набора данных и без ускорителя.
Система konfig представляет эксперимент как дерево обычных словарей. Такие конфигурации можно изменять, сериализовать в JSON и преобразовывать в рабочие объекты, включая оптимизаторы optax. Ссылки вроде cfg.ref.num_train_steps позволяют связанным параметрам автоматически учитывать последующие изменения, а не сохранять прежнее значение.
Kontext соединяет компоненты строковыми путями к ключам. Благодаря этому метрика получает выходы модели и целевые значения, не импортируя модель; для перенаправления входа достаточно изменить строку. Средства типизации во время выполнения проверяют именованные измерения массивов между аргументами и указывают конфликтующее измерение. В материале также создаются пользовательские функция потерь и метрика, запускается обучение через kd.train Trainer, отслеживается внутренний слой модели без её редактирования, выполняется перебор пяти вариантов конфигурации и возобновляется работа из checkpoint. В разделе установки описан патч совместимости для проверенных версий JAX и etils.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.