Рояците от AI агенти са огромна загуба на токени без никакво повишаване на качеството, казва разработчик на OpenAI Codex

Ерик Провеншър, разработчик на Codex в OpenAI, предупреждава срещу безразсъдното харчене на токени в агентни работни процеси. В публикации в X той твърди, че повече от два паралелни подагента почти винаги изразходват токени, без да подобряват качеството. Агентите не си имат доверие и в крайна сметка „проверяват домашната работа на всички“.

Провеншър нарича това „данък за координация“ и казва, че е „наистина трудно да се поддържат толкова много паралелни направления, без системата да излезе извън контрол и да изгори токени заради прекомерна проверка“. Когато се появи проект, при който някой е похарчил токени за 20 000 долара, за да рефакторира един-единствен Python файл с 1393 Fable агента, той коментира, че един Astra агент би могъл да го направи за „малка част от цената“. Масовото използване на агенти може да спести време, но разходът на токени е „капан“, пише той.

Като решение той препоръчва задачите да се възлагат на отделни нишки, които да уведомяват главния агент едва след приключването им, вместо постоянно да се проверява статусът им. Системните подсказки също се изпълняват многократно от различните подагенти, а на подагентите често им липсва необходимият контекст, което води до излишна работа. Провеншър признава, че OpenAI все още трябва да предложи по-добри решения в тази област.

AI новини без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за AI, нашия ексклузивен шест пъти годишно доклад за най-новите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.