Четыре механизма помогают агентам сохранять контекст в долгих задачах
В длительных задачах агенты, многократно вызывающие инструменты, могут переполнить контекстное окно и утратить исходную цель из зоны недавнего внимания модели. В статье утверждается, что основная часть решения находится в так называемом harness-слое, а не обязательно в самой языковой модели. Этот слой управляет контекстом, состоянием и памятью агента.
Первый механизм — распределение контекстного бюджета. Deep Agents переносит ответы инструментов размером более 20 000 токенов в файловую систему, оставляя путь и предварительный просмотр первых 10 строк. При заполнении окна на 85% старые операции редактирования также могут заменяться указателями. Компактизация обобщает диалог, а Claude Code повторно загружает недавние файлы и правила. OpenAI и Claude предоставляют аналогичные функции на уровне API.
Файл todo или другая изменяемая заметка удерживает цели в свежем контексте между обобщениями, хотя оценки LangChain показали, что включение todos приносит пользу не во всех случаях. Постоянная память помогает в следующих сессиях, но исследование ETH Zurich зафиксировало рост затрат на инференс на 20–23% для контекстных файлов в двух тестах. Авторы материала рекомендуют проверять такие механизмы принудительной компактизацией и тестами на сохранение и восстановление цели.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.