Sakhanda Wire
NVDA $153.64 -1.60% MSFT $506.98 -2.13% GOOGL $279.95 -1.33% META $620.09 -1.01% AMZN $256.57 -0.46%
← К новостям

Четыре механизма помогают агентам сохранять контекст в долгих задачах

В длительных задачах агенты, многократно вызывающие инструменты, могут переполнить контекстное окно и утратить исходную цель из зоны недавнего внимания модели. В статье утверждается, что основная часть решения находится в так называемом harness-слое, а не обязательно в самой языковой модели. Этот слой управляет контекстом, состоянием и памятью агента.

Первый механизм — распределение контекстного бюджета. Deep Agents переносит ответы инструментов размером более 20 000 токенов в файловую систему, оставляя путь и предварительный просмотр первых 10 строк. При заполнении окна на 85% старые операции редактирования также могут заменяться указателями. Компактизация обобщает диалог, а Claude Code повторно загружает недавние файлы и правила. OpenAI и Claude предоставляют аналогичные функции на уровне API.

Файл todo или другая изменяемая заметка удерживает цели в свежем контексте между обобщениями, хотя оценки LangChain показали, что включение todos приносит пользу не во всех случаях. Постоянная память помогает в следующих сессиях, но исследование ETH Zurich зафиксировало рост затрат на инференс на 20–23% для контекстных файлов в двух тестах. Авторы материала рекомендуют проверять такие механизмы принудительной компактизацией и тестами на сохранение и восстановление цели.

Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием MarkTechPost

Читать оригинал на MarkTechPost ↗

Репортаж и изображение принадлежат MarkTechPost и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости