Agent Compute Engine від Google надає кожному агенту Gemini власну апаратно ізольовану мікровіртуальну машину

Google представила Agent Compute Engine — сервіс, який надає кожному ШІ-агенту власну ізольовану віртуальну машину. Сервіс уже забезпечує роботу Gemini, а в найближчі місяці стане доступним у режимі попереднього перегляду. За словами компанії, кожен агент працює всередині мікровіртуальної машини, захищеної чипом Titanium від Google. Коли агент простоює, його віртуальна машина автоматично призупиняється та звільняє ресурси комп’ютера для інших. Спільна пам’ять між віртуальними машинами зменшує вартість запуску кожної з них. Віртуальні машини є одним із дуже значних факторів витрат під час роботи агентних систем, тож Google прагне підвищити тут ефективність.

Це також лежить в основі Agent Substrate — середовища виконання з відкритим кодом для Kubernetes. Google стверджує, що на одному сервері можна розмістити вдесятеро більше агентів. За даними Google, у тесті з 200 000 агентів призупинення та відновлення роботи тривали менш як 500 мілісекунд. Для нагляду Google додає відстеження токенів, маршрутизацію моделей і підтримку сторонніх постачальників ідентифікації, таких як Ping Identity і SailPoint. Ці засоби контролю поширюватимуться на Cloud Run, GKE та керовані кінцеві точки.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ та наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, мати повний доступ до архіву й розділу коментарів.