Рої ШІ-агентів — величезна трата токенів без жодного підвищення якості, каже розробник OpenAI Codex

Ерік Провенчер, розробник Codex в OpenAI, застерігає від бездумного витрачання токенів у агентних робочих процесах. У дописах на X він стверджує, що більше двох паралельних субагентів майже завжди спалюють токени, не підвищуючи якість. Агенти не довіряють один одному, тому зрештою «перевіряють домашнє завдання кожного».

Провенчер називає це «податком на координацію» і каже, що «дуже складно підтримувати роботу такої кількості паралельних напрямів, не втрачаючи контроль і не спалюючи токени на надмірну перевірку». Коли з'явився проєкт, у межах якого хтось витратив 20 000 доларів у токенах на рефакторинг одного Python-файлу за допомогою 1 393 агентів Fable, він прокоментував, що один агент Astra міг би виконати цю роботу за «частину вартості». Рої агентів можуть заощадити час, але накладні витрати на токени — це «пастка», пише він.

Як вирішення проблеми він рекомендує делегувати завдання в окремі потоки, які після завершення лише повідомляють головного агента, замість постійного опитування їхнього статусу. Системні підказки також виконуються кілька разів у різних субагентах, а субагентам часто бракує необхідного контексту, що призводить до дублювання роботи. Провенчер визнає, що OpenAI ще потрібно випустити кращі рішення в цій сфері.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, мати повний доступ до архіву та доступ до розділу коментарів.