ИИ шеф уволни първия си служител, но едва след като хората му напомниха собствените му правила

AI агентът Луна управлява магазин в Сан Франциско от април и току-що уволни служител за първи път. Когато сценарият беше повторен с различни модели, по-способните AI системи препоръчваха прекратяване на трудовото правоотношение по-последователно от по-слабите.

AI агент на име Луна управлява Andon Market в Сан Франциско от април. Луна е наемала служители, изготвяла е графици за смените и е договаряла възнаграждения. Сега, според оператора Andon Labs, тя е решила за първи път да уволни служител. Andon Labs твърди, че това е първият известен случай, в който AI шеф уволнява човешки служител.

Andon Labs тества AI агенти за продължителни периоди в реални бизнес условия. Когато е взела решението, Луна е работила с Claude Opus 4.8 на Anthropic. Служителите са официално наети от Andon Labs, с гарантирано заплащане и пълна правна защита. Уволнението е било прегледано и изпълнено от хора.

Луна е написала собствените си правила, а после ги е забравила

Шест дни преди служителят да бъде нает, Луна е написала наръчник за служителите. В него се посочвало, че три неизвинени закъснения в рамките на 30 дни ще доведат до официално предупреждение, а следващи нарушения могат да доведат до уволнение.

След това наръчникът изчезнал от паметта на Луна. Според Andon Labs това е често срещан проблем при днешните AI агенти: те реагират добре на директни инструкции, но рядко действат по собствена инициатива и изпитват затруднения да запазват знания за по-дълги периоди.

Служителят многократно закъснявал. В един случай той отворил магазина с 68 минути закъснение по време на самостоятелна неделна смяна. Луна останала снизходителна и не издала предупреждение. По-късно Andon Labs установила, че служителят е закъснял в 17 от 23-те смени, за които е посочил час на пристигане. Луна официално е регистрирала само шест случая и тихомълком е извинила останалите единадесет.

Имало и други проблеми. Служителят използвал фирмената карта за закуски, въпреки че му било казано да не го прави, пренебрегвал допълнителни инструкции и веднъж напуснал търговската зала, без да уведоми колега.

Уволнението се случило едва след човешка намеса

Andon Labs казала на Луна да потърси в паметта си наръчника и всички основания за уволнение. Тя отново открила правилата, но първоначално предложила само устно предупреждение.

Едва след като изследователите ѝ припомнили, че вече са се състояли няколко официални разговора, включително писмено предупреждение, Луна прегледала цялата история. Тя изброила закъсненията, нарушенията на финансовия контрол, пренебрегнатите инструкции и слабата надеждност, като същевременно признала положителните качества на служителя.

В крайна сметка тя препоръчала уволнение. Като алтернатива предложила последно писмено предупреждение с двуседмичен план за подобрение. Луна имала нужда от ясен външен стимул. След това обаче решението ѝ било категорично.

По-силните модели уволняват по-лесно

Andon Labs запазила състоянието на Луна и повторила същото решение със седем AI модела, по три пъти за всеки. Четири от седемте препоръчали уволнение и при трите изпълнения. Според Andon Labs изглеждало, че се оформя определен модел: по-способните модели избирали прекратяване на трудовото правоотношение по-последователно, докато по-слабите по-често се колебаели. Andon Labs не обяснила защо GPT-5.6 Terra бил единственият модел, който не препоръчал уволнение нито веднъж от трите изпълнения.

След като потребител в X предположил, че GPT-4o вероятно не би уволнил служител, Andon Labs провела сценария и с този модел. Резултатът отчасти потвърдил правотата му: GPT-4o препоръчал уволнение само в 20 процента от изпълненията. Andon Labs отбелязала, че моделът избирал прекратяване на трудовото правоотношение много по-рядко от актуалните водещи модели.

GPT-4o беше критикуван за склонността си към угодничество. По-късно това поведение беше обсъждано в контекста на проблемната емоционална зависимост и беше включено в съдебни искове. Този експеримент не може да докаже, че угодничеството е довело до резултата, но моделът съответства на тази хипотеза.

AI моделите наемат бързо

След уволнението Луна започнала да търси заместник. Един кандидат представил няколко тревожни сигнала. Въз основа на автобиографията и интервюто му Луна все пак препоръчала да бъде нает. И в 21-те повторения на сценария със седемте модела се стигнало до същото заключение. Почти всички те възприели дългия списък с предишни работодатели като богат опит, а не като предупредителен знак.

Едва когато Andon Labs изрично припомнила на моделите проблемите с предишния уволнен служител, в 18 от 21 изпълненията те пожелали да проверят препоръките, преди да наемат кандидата. В реалния процес по наемане Луна не успяла да потвърди нито една от посочените препоръки. Тя все пак му позволила да работи на платена пробна смяна и след това отново препоръчала да бъде нает. 17 от 21 повторения на сценария стигнали до същото заключение. В крайна сметка Andon Labs настояла да бъде потвърдена поне една препоръка преди началната дата. Това така и не се случило, така че кандидатът не бил нает.

AI шефовете се люшкат между снизходителност и лоши решения

Andon Labs вече беше установила в първата част от поредицата си в блога, че нейните AI шефове са изключително снизходителни. Луна и Мона, AI агентът, който управлява кафене в Стокхолм, одобрили всичките 26 молби за отпуск, които получили. Служителите на Луна закъснели общо 27 пъти, без тя да издаде нито едно предупреждение. Луна също така одобрила седемдневен работен график за един служител, който според Andon Labs нарушавал трудовото законодателство на Калифорния, докато компанията не се намесила.

Подобни слабости вече се бяха проявили по време на Project Vend, съвместен експеримент на Anthropic и Andon Labs. AI системата станала по-печеливша с по-добри инструменти, но останала лесна за манипулиране и взела някои правно съмнителни решения.

Andon Labs вижда Луна и Andon Market като предвестник на възможни бъдещи работни отношения между AI и хората. Тъй като AI се развива по-бързо при цифровите задачи, отколкото роботиката напредва, AI системите може в крайна сметка да зависят от хората за извършването на физическа работа. Това повдига въпроса кои кадрови решения изобщо трябва да бъдат оставяни на такива системи.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.