Agent Compute Engine на Google дава на всеки агент Gemini собствена хардуерно изолирана микро-виртуална машина

Google обяви Agent Compute Engine — услуга, която предоставя на всеки ИИ агент собствена изолирана виртуална машина. Услугата вече захранва Gemini и ще бъде достъпна за предварителен преглед през следващите месеци. Всеки агент работи в микроVM, защитена от чипа Titanium на Google, съобщава компанията. Когато агентът бездейства, неговата виртуална машина автоматично се поставя на пауза и освобождава машината за други агенти. Споделената памет между виртуалните машини намалява разходите за изпълнението на всяка от тях. Виртуалните машини са значителен фактор за разходите при предоставянето на агентни системи, така че Google се стреми към по-голяма ефективност в тази област.

Това стои и зад Agent Substrate — среда за изпълнение за Kubernetes с отворен код. Google твърди, че тя може да поддържа десет пъти повече агенти на един сървър. При тест с 200 000 агенти спирането и възобновяването са отнели по-малко от 500 милисекунди, според Google. Що се отнася до надзора, Google добавя проследяване на токените, маршрутизиране на моделите и поддръжка за доставчици на идентичност от трети страни, като Ping Identity и SailPoint. Тези контроли ще обхванат Cloud Run, GKE и управляваните крайни точки.

ИИ новини без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно доклад за водещите тенденции в ИИ „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.