Рои ИИ-агентов — огромная трата токенов без какого-либо повышения качества, говорит разработчик OpenAI Codex

Эрик Провеншер, разработчик Codex в OpenAI, предостерегает от безрассудной траты токенов в агентных рабочих процессах. В публикациях в X он утверждает, что более двух параллельных субагентов почти всегда расходуют токены, не повышая качество. Агенты не доверяют друг другу, поэтому в итоге «перепроверяют домашнюю работу каждого».

Провеншер называет это «налогом на координацию» и говорит, что «действительно сложно поддерживать работу такого количества параллельных потоков, не допуская сбоев и не сжигая токены на чрезмерную проверку». Когда появился проект, в рамках которого кто-то потратил 20 000 долларов в токенах на рефакторинг одного Python-файла с помощью 1 393 агентов Fable, он прокомментировал, что один агент Astra справился бы с этим за «малую часть стоимости». Рои агентов могут экономить время, но накладные расходы на токены — это «ловушка», пишет он.

В качестве решения он рекомендует делегировать задачи отдельным потокам, которые уведомляют главного агента только после завершения работы, вместо постоянного опроса их статуса. Системные подсказки также выполняются несколько раз в разных субагентах, а субагентам часто не хватает необходимого контекста, что приводит к дублированию работы. Провеншер признаёт, что OpenAI всё ещё необходимо внедрить более эффективные решения в этой области.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный годовой отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.