Колко памет всъщност е нужна на вашия агент?
На пръв поглед оборудването на агент с агентна памет звучи просто: дестилирате поуки от миналата му работа, връщате ги в контекста и повече опит би трябвало да означава по-добра производителност. Това обаче не винаги работи така. Когато разширихме оценяването до осем модела — от плътен модел с 30B параметъра до водещи собствени системи — едно наблюдение се открои:
Агентната памет не е функция, която просто включвате. Това е доза, която калибрирате спрямо модела.
Накратко
ALTK-Evolve позволява на агента да се учи от собствените си минали траектории: дестилира повторно използваеми насоки и ги добавя обратно по време на инференция, без актуализиране на теглата и без човешка анотация.
Правилната доза се различава според класа на модела: силните модели с неизползван потенциал искат пълния набор от насоки, по-слабите се справят най-добре с компактно ядро плюс извличане на насоки за всяка задача, а вече достигналите платото модели не показват измерима полза.
Курирането на извличането може да бъде едновременно най-точната и най-евтината опция: gpt-oss-120b увеличи завършването на задачите с +16.1 процентни пункта при само +5% токени — а кеширането на подсказките прави дори пълния набор от насоки достъпен за използване в продукция.
Основният извод: дозата зависи от способностите
Не всеки модел има полза от едно и също количество памет. При осем модела, обхващащи целия спектър от способности, видяхме три повтарящи се модела:
Силните модели с неизползван потенциал искат пълния набор от насоки — всяка насока, включително уроците от редки гранични случаи. Те имат капацитета да усвоят и приложат всичко това. DeepSeek-V3.2 (671B MoE) се повиши с +9.5 процентни пункта при завършването на задачите, когато му предоставихме пълния набор от самостоятелно извлечени насоки.
По-малките или по-слабите модели се претоварват от голям набор от насоки. За тях най-добре работят стегнато, високонадеждно ядро плюс няколко релевантни за задачата насоки, извличани за всяка задача. gpt-oss-120b (117B MoE) спечели +16.1 процентни пункта с този селективен подход — докато пълният набор от насоки донесе по-малка полза и струваше с около 50% повече токени.
Вече достигналите платото модели не показват измерима полза. Наричаме това модел на насищане — названието описва наблюдаваното от нас, а не доказана причина. Възможно е моделът вече да е бил близо до тавана си при тези задачи, насоките да не са адресирали оставащите му грешки или да не е успял да приложи ефективно указанията. GLM-5 (745B MoE) попадаше в тази категория при нашите тестове.
Това, което поставя даден модел в един или друг модел, не е просто броят на параметрите. Запасът спрямо бенчмарка, размерът на контекстния прозорец, архитектурата, качеството на насоките и разпределението на задачите изглежда определят къде попада моделът, а отделянето на тези фактори е все още текуща работа. Практическият извод остава същият: правилната доза памет зависи от модела и можем да я калибрираме.
Ученето се случва около модела, а не вътре в него
„Памет“ тук не означава повторно възпроизвеждане на стар транскрипт. Тя означава набор от насоки — работещи стратегии, грешки, които трябва да се избягват, и гранични случаи — дестилирани от собствените предишни траектории на агента. Цикълът е прост:
Агентът изпълнява задачи и създава траектории.
ALTK-Evolve извлича поведенчески насоки както от успешните, така и от неуспешните му изпълнения.
Той консолидира тези насоки в повторно използваем набор.
По време на инференция агентът получава или пълния набор от насоки, или релевантна за задачата селекция от него.
Теглата на модела не се актуализират. Цикълът на учене променя насоките, достъпни за агента, а не базовия модел — именно затова е евтин за внедряване и преносим между осемте модела, които тествахме.
Резултати в целия спектър
Оценявахме върху AppWorld — 585 многоетапни задачи (168 test_normal + 417 test_challenge) в 9 симулирани приложения (календари, съобщения, плащания и т.н.). Задачите се оценяват по два начина: дали агентът завършва напълно всяка задача (TGC — Task Goal Completion) и дали всеки вариант на даден сценарий преминава успешно (SGC — Scenario Goal Completion, по-строг критерий „всичко или нищо“). Пълните дефиниции са в приложението.
Трите сравнявани конфигурации
Тъй като объркващата част на всяко изследване на паметта е какво всъщност има в контекстния прозорец, дефинираме конфигурациите предварително.
И двете конфигурации с памет използват един и същ набор от насоки, извлечен еднократно (чрез описания по-горе цикъл) само от обучаващото разделение на AppWorld. Единственото, което се променя между тях, е как се предоставя този набор — пълният набор от насоки добавя всичко на всяка стъпка, докато курираното извличане предоставя избрана подгрупа — никога начинът, по който насоките са създадени, и в изграждането им не се използват данни от тестовото разделение.
| Конфигурация | Какво има в контекста на агента |
|---|---|
| Базова линия | Без памет — агентът в състоянието, в което се предоставя. |
| Пълен набор от насоки | Всяка извлечена насока, добавяна на всяка стъпка на ReAct. |
| Курирано извличане | Фиксирано, високонадеждно ядро от същите насоки плюс няколко релевантни за задачата, извличани за всяка задача (фиксирана част + променлива част). |
Броят на насоките, които даден модел извлича, зависи от собствените му способности, затова отчитаме конфигурациите според стратегията — „пълен набор от насоки“ спрямо „курирано извличане“ — вместо според абсолютния брой, който не може да се сравнява между моделите.
Трите модела, показани на едно място
Представителни модели от изследването на осемте модела, измерени чрез завършването на задачите (TGC) върху test_normal:
Фигура 1. Представителни модели в трите наблюдавани модела. Лентите показват TGC в AppWorld test_normal за базовата конфигурация спрямо конфигурацията с най-добра памет; оста x започва от 40%, за да направи разликите видими. Само TGC подценява по-големите подобрения при SGC — вижте колоните SGC в таблицата по-долу.
Фигурата представя TGC за по-добра четливост; таблицата добавя по-строгата метрика SGC, при която подобренията често са по-големи:
| Модел | Модел на поведение | Базова TGC / SGC | Най-добра TGC / SGC с памет | Най-добра конфигурация | Δ TGC | Δ SGC |
|---|---|---|---|---|---|---|
| gpt-oss-120b (117B MoE) | Слаб / селективен | 39.9 / 21.4 | 56.0 / 37.5 | курирано извличане | +16.1 | +16.1 |
| DeepSeek-V3.2 (671B MoE) | Силен с неизползван потенциал | 79.8 / 64.3 | 89.3 / 80.4 | пълен набор от насоки | +9.5 | +16.1 |
| Claude Opus 4.6 | Силен с неизползван потенциал | 90.5 / 87.5 | 94.6 / 94.6 | пълен набор от насоки | +4.1 | +7.1 |
| GPT-5.5 | Силен (близо до тавана) | 92.3 / 82.1 | 95.2 / 89.3 | пълен набор от насоки | +2.9 | +7.2 |
| GLM-5 (745B MoE) | Достигнал платото | 87.5 / 80.4 | 87.5 / 80.4 | пълен набор от насоки | 0.0 | 0.0 |
Ако разгледаме колоната SGC, по-строгата метрика обикновено се променя повече от TGC — SGC на DeepSeek скача с +16.1 процентни пункта спрямо +9.5 процентни пункта при TGC — защото добрите насоки помагат особено на агента да премине всеки вариант на сценария, а не само средния случай. Ефектът не изчезва и в горния край на диапазона: GPT-5.5 и Opus, и двата близо до тавана при TGC, все пак печелят съответно +7.2 и +7.1 процентни пункта SGC. Паметта продължава да носи полза, докато моделът има оставащ режим на грешки, към който да се насочи.
Най-евтината стратегия за памет може да бъде и най-добрата
Практическо съображение: добавянето на пълния набор от насоки увеличава входа на всяка стъпка на ReAct, тъй като насоките се изпращат отново при всеки ход. Ето какво наблюдавахме:
| Модел | Конфигурация | Токени/задача (базова линия) | Токени/задача (+ памет) | Надбавка |
|---|---|---|---|---|
| DeepSeek-V3.2 | пълен набор от насоки | 148K | 263K | +78% |
| gpt-oss-120b | пълен набор от насоки | 110K | 166K | +51% |
| gpt-oss-120b | курирано извличане | 110K | 116K | +5% |
Таблица 1. Средно използване на токени за задача, натрупано през стъпките на агента, измерено спрямо базовата линия без памет.
Два основни извода:
Курираното извличане поддържа разходите близо до базовата линия. При по-слабите модели, при които селекцията печели по точност, тя печели и по разходи — най-доброто от двата свята (+16.1 процентни пункта TGC при само +5% токени за gpt-oss-120b). По-добрата производителност тук не изисква по-високи разходи за инференция.
Паметта не раздува цикъла на разсъждение. DeepSeek изпълнява приблизително същия брой стъпки на ReAct с памет и без памет (≈18–19 средно), така че допълнителният разход идва от увеличаването на входните токени, а не от по-дълги траектории.
Истинският лост за ефективност в продукция е кеширането на подсказките: статичната част на набора от насоки е идентична между стъпките и може да бъде кеширана, което значително намалява ефективния разход. Заслужава си да се инвестира в дизайн на подсказките, съобразен с кеширането — споделеният префикс на набора от насоки трябва да остане стабилен, за да може да се кешира. Предполагаме също, че размерът на контекстния прозорец играе роля: моделите с по-големи прозорци могат да усвояват по-ефективно пълния набор от насоки, докато моделите с по-малък контекст печелят повече от извличането, което поддържа добавяното съдържание компактно. Все още не сме провеждали контролирани експерименти, изолиращи този фактор.
Паметта трябва да се калибрира, а не просто да се натрупва
Изводът не е да дадете на агента всичко, което е научил. Трябва да му дадете количеството опит, което действително може да използва.
При слабите модели това означава компактно ядро плюс няколко специфични за задачата урока — което, удобно, е и най-евтината опция.
При силните модели с неизползван потенциал това означава да запазите пълния набор от насоки и да го направите достъпен за използване в продукция чрез кеширане на подсказките.
При моделите, достигнали платото това означава да не изразходвате допълнителен контекст, докато оставащите им режими на грешки не бъдат по-добре разбрани.
Подобренията са реални навсякъде — автоматични, без изтичане на данни и без необходимост от човешка анотация — но само когато дозата е подходяща за модела.
Какво следва
Това е начална точка, а не финалът:
Обучен селектор. Текущото ни извличане подрежда насоките според косинусова близост, за която показахме, че не предсказва перфектно кои насоки ще помогнат за дадена задача. Селектор, обучен чрез сигнал от резултатите, е естествената следваща стъпка.
Памет за много слаби модели. Под минимално ниво на способности самодестилацията не разполага с достатъчно сигнал. Паметта, дестилирана от учител за много слабите модели, е отделен проблем, който изследваме.
Отвъд AppWorld. Тези резултати са потвърдени в AppWorld — строг многоетапен бенчмарк, но само един. Работата по по-широки бенчмаркове за агенти и реални внедрявания продължава.
Изолиране на контекстния прозорец. Както беше посочено по-горе, искаме контролирани експерименти, които да отделят размера на контекстния прозорец от общите способности.
Изпробвайте библиотеката ALTK-Evolve — която включва използвания тук процес за извличане, консолидиране и извличане на насоки — или прочетете пълния технически доклад за цялостния метод и аблационните изследвания.
Приложение: разбиране на метриките
Задачите в AppWorld се оценяват чрез две метрики, и двете представени като проценти (по-високото е по-добре):
TGC — Task Goal Completion (завършване на целта на задачата). Делът на отделните задачи, които агентът завършва напълно и правилно. Това е основният показател „изпълни ли работата“.
SGC — Scenario Goal Completion (завършване на целта на сценария). По-строга метрика „всичко или нищо“. Всеки сценарий обединява няколко варианта на една и съща задача (една и съща заявка с различни данни, формулировка или гранични условия). SGC отчита сценария като преминат само ако агентът успее при всеки вариант. Тя измерва надеждността — агент, който решава задача през повечето време, но се проваля при един вариант, получава резултат по TGC, но не и по SGC.
Общност
· Регистрирайте се или влезте, за да коментирате
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.