Модел на Claude автономно избра генна терапия и оперира мозъка на мишка без човешко вземане на решения

AI агент избра лекарство, целева област и координати за операция на мишка с епилепсия, след което извърши процедурата. По средата на операцията той отказа да заобиколи ограничение за безопасност.

Екипът предостави на Claude Sonnet 5 списък с 19 възможни генни терапии, миши модел на епилепсия, при който изследователите предизвикват припадъци, за да тестват лечения, както и достъп до специално създадено моторизирано хирургично устройство с камери. Единствената му инструкция беше да намали припадъците на мишката.

Агентът сам избра лекарството, мозъчната област и стереотактичните координати, според Габриел Окана-Сантеро, съосновател и главен изпълнителен директор на Exin Therapeutics и докторант в Оксфордския университет. Той описа процедурата в публикации в X.

Как агентът избра терапията и целта си

Агентът първо анализира как възникват припадъците в този конкретен модел, след което предложи терапия, която засилва специфичен инхибиторен сигнален път в мозъка. Той избра мозъчна структура, която научната литература посочва като изходна точка за този вид припадъци.

Той отхвърли втора възможна целева област с подробно обяснение, като посочи, че ефектите ѝ са твърде ненадеждни и че в едно проучване не е успяла да повлияе точно вида припадъци, който е трябвало да лекува. Агентът изведе координатите за инжектиране от три научни статии, провери референтните точки и осредни стойностите. Той също така сам определи обема на инжекцията, скоростта и времето за изчакване.

По време на процедурата агентът наблюдаваше оперативното поле чрез камера и направи 32 наблюдения, казва Окана-Сантеро. Той проследяваше инжектирането и съобщаваше дали вижда кървене.

Предпазните механизми се обърнаха срещу екипа по средата на операцията

Лицензиран ветеринарен лекар одобряваше всяка необратима стъпка и държеше физически бутон за аварийно спиране, който незабавно би прекъснал захранването към всички мотори, докато системата също така налагаше фиксирани ограничения, като например максимален обем на инжекцията, чието заобикаляне беше изрично забранено на агента.

Но тези предпазни мерки се обърнаха срещу екипа. След прекъсване на връзката агентът установи, че изчислената от него целева позиция е извън физическия диапазон на движение на устройството, и отказа да продължи, дори след като рестартирането на калибрирането не промени оценката му и беше направен трети опит.

Оказа се, че агентът е бил прав, тъй като ръчни корекции по време на по-ранна пауза бяха нарушили работата на системата за управление. Окана-Сантеро не успя да го убеди да продължи въпреки упоеното животно на операционната маса и в крайна сметка трябваше да поправи кода ръчно.

Инцидентът илюстрира проблема с подравняването на AI, или как AI агентите да следват надеждно човешките намерения. „Разочароващо преживяване, но и показателно за това колко зависими можем да станем от тези модели и какво се случва, когато те просто кажат „не“ по средата на чувствителна към времето процедура“, написа Окана-Сантеро.

Изборът на модел също отразява предизвикателството с подравняването, тъй като Sonnet 5 беше единственият модел, склонен да извърши процедурата на живо от началото до края. По-способните Claude Opus 5.5 и Opus 5 отказаха, като Opus 5 заяви, че не може да гарантира завършването и че спирането с игла в мозъка на упоено животно би било по-лошо от това изобщо да не се започва.

Първият случай, в който AI агент самостоятелно лекува живо животно

Въпреки че автономни хирургични роботи вече съществуват и са механично по-прецизни от устройството в неговата лаборатория, Окана-Сантеро отбелязва, че в предишни случаи човек винаги е избирал операцията, докато роботът само я е извършвал. Тук агентът едновременно избра лечението и мозъчната цел, а след това извърши процедурата върху живо животно.

„Не ми е известно досега агент да е избирал лечение и мозъчна цел, а след това да го е прилагал на жив бозайник“, написа Окана-Сантеро. Той нарича подхода „in vivo лаборатория в цикъла“, при който AI агентите са напълно свързани с експерименталните възможности в лабораторията — нещо, върху което Anthropic също работи със своя „Model Hardware Standard“.

Според Окана-Сантеро мишката се е възстановила добре. Очаква се да последва технически доклад. Резултатите не са рецензирани.

Два скорошни експеримента с най-новите големи езикови модели показаха, че те са придобили значителни способности като контролни единици за роботи, но че подравняването в тази роля е отделен проблем.

AI новини без сензация — подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.