Руководство описывает LoRA-дообучение моделей для вызова инструментов
В руководстве представлен полный процесс supervised fine-tuning для набора XYZ-Aquila-SFT с использованием Hugging Face Transformers, PyTorch и PEFT. Рабочий процесс загружает и проверяет примеры, разбирает многошаговые траектории применения инструментов, извлекает структурированные вызовы и анализирует свойства корпуса, включая глубину диалогов, размер траекторий и частоту использования инструментов.
Схемы инструментов отделяются от системных сообщений и затем могут быть встроены обратно в формат, совместимый с Qwen. ChatML формируется вручную, чтобы сохранить встроенные рассуждения и наблюдения; маскирование исключает из расчёта потерь всё, кроме содержимого ассистента. Авторы объясняют такой подход тем, что стандартный шаблон чата Qwen3 удаляет блоки рассуждений из предыдущих сообщений ассистента.
Для подготовки примеров используются собственные набор данных и collator на PyTorch. Максимальная длина последовательности составляет 2048 токенов, а политика обработки предусматривает усечение. Модель Qwen3-0.6B адаптируется методом LoRA с рангом 16, learning rate 1e-4 и накоплением градиентов 8. Запуск настроен максимум на 30 шагов и включает оценку предсказания вызовов инструментов до и после обучения. Также сохраняются преобразованный набор данных и статистика корпуса.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.