Знайомтеся: Shepherd — Python-субстрат із відкритим кодом, що дає змогу метаагентам розгалужувати, відтворювати й скасовувати будь-який запуск агента

Агенти, що працюють тривалий час, накопичують стан, який не фіксує жодна розшифровка. Агент для написання коду на 10-му кроці має відредаговані файли, запущений сервер розробки, встановлені пакети та прогрітий кеш промптів. Коли він неправильно інтерпретує traceback і перезаписує файл, який уже був правильним, жоден із доступних шляхів відновлення не є дешевим: виправлення помилки шляхом подальших змін збільшує контекст і рахунок за токени, а перезапуск із першого кроку змушує повторно оплачувати кожен виклик моделі та інструментів, водночас не відтворюючи все точно, оскільки запуски недетерміновані. Повернення до восьмого кроку — це опція, якої насправді хочуть інженери, і саме її не можуть запропонувати наявні середовища виконання. Git версіонує файли, але не живий процес чи кеш. Дослідники з Північно-Східного університету та Стенфордського університету випустили Shepherd — програмну основу середовища виконання на Python, яка записує запуск агента як Git-подібний трасувальний запис типізованих подій, тож будь-який минулий стан можна відгалузити та відтворити. Дослідницька команда повідомляє, що створення відгалужень у 5 разів швидше за Docker, а під час повторного відтворення повторно використовується понад 95% кешу промптів.

Чи готовий він до розгортання?

Так, але він доступний на ранній альфа-стадії й не готовий до використання у виробничому середовищі. Shepherd поширюється за ліцензією MIT і встановлюється командою pip install shepherd-ai з PyPI. Потрібен Python 3.11 або новіший. Забезпечення дозволів на рівні ОС працює в macOS (Seatbelt) і Linux (Landlock, у привілейованому контейнері).

• Галузі: розробка програмного забезпечення та DevOps, постачальники інфраструктури ШІ й платформ для агентів, дослідження кількісних фінансів, інструменти безпеки та дослідження наступальної безпеки, а також інженерія даних. Спільною рисою є не галузь. Нею є тривалі запуски агентів із великим станом пісочниці, де невдалий запуск дорого повторювати.
• Застосування: нагляд у реальному часі за агентами для написання коду, коли метаагент скасовує невдалий запис до його фіксації. Автоматичне відновлення після неправильного виклику інструмента без повного перезапуску. Розгалужене дослідження різних стратегій агентів із паралельним порівнянням. Генерація траєкторій для навчання з підкріпленням із відгалуженням на вибраних кроках.

Що змінює Shepherd

Shepherd — це програмна основа на Python, яка записує виконання агента як об’єкт першого класу. Кожна взаємодія агента із середовищем стає типізованою подією у Git-подібному трасувальному записі виконання. Основні операції формалізовано як функції та механізовано в Lean.

Кожна взаємодія фактично є комітом. На відміну від Git, коміт охоплює процес агента та файлову систему разом, використовуючи копіювання під час запису. Отже, гілка містить живий стан, а не лише файли. Повернення до попередньої точки — це просте відгалуження від відповідного коміту.

Дослідницька команда повідомляє, що Shepherd створює відгалуження процесу агента та його файлової системи у 5 разів швидше за Docker. Оскільки префікс промпту до точки відгалуження не змінюється, повторне відтворення забезпечує повторне використання понад 95% кешу промптів.

Документація організовує фреймворк навколо чотирьох концепцій: завдань, ефектів, запусків і робочих просторів. Завдання — це типізована функція, тіло якої заповнює модель, тому сигнатура є контрактом. Ефект — це кожен перетин межі завдання; його можна відстежувати, на нього можна відповідати або його можна відхилити. Запуск — це довговічний запис цих перетинів.

Дозволи оголошуються в сигнатурі. Прив’язка May[GitRepo, ReadOnly] компілюється в корені, доступні для запису під час цього запуску, і забезпечується на рівні ізоляції нативних системних викликів.

Коли запуск можна відгалузити, поверх нього може працювати метаагент

Відгалуження дає змогу створювати агентів вищого порядку, які спостерігають за трасувальним записом і втручаються до фіксації невдалого запису. Дослідницька команда демонструє три застосування:

• У втручанні під час виконання живий наглядач підвищив показник успішного парного програмування на CooperBench із 28,8% до 54,7%.
• У контрфактичній метаоптимізації розгалужене дослідження перевершило базові методи на чотирьох бенчмарках — максимум на 11 пунктів, одночасно скоротивши час роботи в реальному часі максимум на 58%.
• У навчанні Tree-RL відгалуження траєкторій на вибраних кроках підвищило результат TerminalBench-2 із 34,2% до 39,4%.

Ключові висновки

• Shepherd записує кожну взаємодію агента із середовищем як типізовану подію в Git-подібному трасувальному записі, від якого можна створювати відгалуження.
• Коміт охоплює процес агента та файлову систему разом, тому перемотування відновлює живий стан, а не лише файли.
• За повідомленнями, відгалуження створюються у 5 разів швидше, ніж у Docker, а під час повторного відтворення повторно використовується понад 95% кешу промптів.
• Живий наглядач підвищив показник успішного парного програмування на CooperBench із 28,8% до 54,7%.

---

Ознайомтеся зі статтею, GitHub, репозиторієм експериментів, сторінкою проєкту та PyPI. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого субреддіту ML із понад 150 тисячами учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? Тепер ви також можете приєднатися до нас у Telegram.

Потрібно співпрацювати з нами для просування вашого репозиторію GitHub, сторінки на Hugging Face, релізу продукту, вебінару тощо? Зв’яжіться з нами