Sakhanda Wire
NVDA $153.64 -1.60% MSFT $506.98 -2.13% GOOGL $279.95 -1.33% META $620.09 -1.01% AMZN $256.57 -0.46%
← Към новините

Четири механизма помагат на агентите да запазят контекста при дълги задачи

При продължителни задачи агентите с многократни извиквания на инструменти могат да препълнят контекстовия прозорец и да загубят първоначалната цел от непосредственото внимание на модела. Статията посочва, че основното решение е в т.нар. harness слой, а не непременно в самия езиков модел. Той управлява контекста, състоянието и паметта.

Първият механизъм е бюджетирането. Deep Agents прехвърля отговори от инструменти над 20 000 токена във файловата система и оставя път до файла с преглед на първите 10 реда. При достигане на 85% от прозореца старите операции за редактиране също могат да бъдат заменени с указатели. Компресирането обобщава разговора, а Claude Code отново зарежда скорошни файлове и правила. OpenAI и Claude предлагат подобни функции на API ниво.

Todo файл или друга променяема бележка поддържа целите актуални между обобщаванията, макар че оценките на LangChain не показват винаги полза от включени todos. Постоянната памет улеснява следващи сесии, но изследване на ETH Zurich отчита 20–23% по-високи разходи за инференция при контекстови файлове в два теста. Според статията механизмите трябва да се проверяват чрез принудително обобщаване и тестове за възстановяване на цели.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини