Модель Claude автономно обрала генну терапію й прооперувала мозок миші без ухвалення рішень людиною

ШІ-агент обрав препарат, цільову ділянку та координати для операції на миші з моделлю епілепсії, а потім виконав процедуру. У середині операції він відмовився обходити обмеження безпеки.

Команда надала Claude Sonnet 5 список із 19 можливих генних терапій, модель епілепсії у мишей, у якій дослідники викликають напади для перевірки методів лікування, а також доступ до спеціальної моторизованої хірургічної установки з камерами. Єдиною інструкцією було зменшити кількість нападів у миші.

Агент самостійно обрав препарат, ділянку мозку та стереотаксичні координати, за словами Габріеля Окани-Сантеро, співзасновника й генерального директора Exin Therapeutics та докторанта Оксфордського університету. Він описав процедуру у треді на X.

Як агент обрав терапію та ціль

Спочатку агент проаналізував, як виникають напади в цій конкретній моделі, а потім запропонував терапію, що посилює певний гальмівний сигнальний шлях у мозку. Він обрав структуру мозку, яку наукова література визначає як осередок виникнення такого типу нападів.

Другу потенційну цільову ділянку він відхилив із детальним поясненням, стверджуючи, що її ефекти були надто ненадійними, а в одному дослідженні вона не дала результату проти саме того типу нападів, який мала лікувати. Агент вивів координати ін'єкції з трьох наукових статей, перевірив контрольні точки та усереднив значення. Він також самостійно встановив об'єм ін'єкції, швидкість і час очікування.

Під час процедури агент спостерігав за операційним полем через камеру та зробив 32 спостереження, розповідає Окана-Сантеро. Він відстежував ін'єкцію та повідомляв, чи бачить кровотечу.

Запобіжні обмеження дали збій у середині операції

Ліцензований ветеринар схвалював кожен незворотний етап і тримав фізичну кнопку аварійної зупинки, яка негайно відключила б живлення всіх двигунів. Водночас система також застосовувала фіксовані обмеження, зокрема максимальний об'єм ін'єкції, обійти які агенту було прямо заборонено.

Але ці запобіжні заходи обернулися проти команди. Після розриву з'єднання агент виявив, що розраховане ним цільове положення виходить за межі фізичного діапазону руху пристрою, і відмовився продовжувати, навіть коли повторне калібрування не змінило його оцінки й було зроблено третю спробу.

Зрештою агент мав рацію, оскільки ручні коригування під час попередньої паузи порушили роботу системи керування. Окана-Сантеро не зміг переконати його продовжити, незважаючи на те, що на столі перебувала анестезована тварина, і зрештою мусив вручну виправити код.

Цей інцидент ілюструє проблему узгодження ШІ, тобто питання про те, як змусити ШІ-агентів надійно виконувати наміри людини. «Це був неприємний досвід, але водночас він показав, наскільки сильно ми можемо почати залежати від цих моделей і що відбувається, коли вони просто кажуть “ні” посеред процедури, чутливої до часу», — написав Окана-Сантеро.

Вибір моделі також відображав проблему узгодження, оскільки Sonnet 5 була єдиною моделлю, готовою виконати процедуру на живій тварині від початку до кінця. Потужніші Claude Opus 5.5 та Opus 5 відмовилися: Opus 5 заявила, що не може гарантувати завершення процедури, а зупинка з голкою в мозку анестезованої тварини була б гіршою, ніж невиконання процедури взагалі.

Перший випадок, коли ШІ-агент самостійно лікував живу тварину

Хоча автономні хірургічні роботи вже існують і механічно є точнішими за пристрій його лабораторії, Окана-Сантеро зазначає, що в попередніх випадках людина завжди обирала операцію, а робот лише виконував її. Тут агент і обрав лікування та ціль у мозку, і виконав процедуру на живій тварині.

«Мені не відомо про випадок, коли агент раніше сам обирав лікування та ціль у мозку, а потім вводив препарат живому ссавцю», — написав Окана-Сантеро. Він називає цей підхід «лабораторією in vivo у контурі», за якого ШІ-агенти повністю підключені до експериментальних можливостей лабораторії, над чим Anthropic також працює зі своїм «Model Hardware Standard».

За словами Окани-Сантеро, миша добре відновилася. Очікується, що згодом буде опубліковано технічний звіт. Результати не проходили рецензування.

Два нещодавні експерименти з найновішими великими мовними моделями показали, що вони здобули значні можливості як блоки керування для роботів, але узгодження в цій ролі є окремою проблемою.

Новини ШІ без галасу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний огляд передових технологій «AI Radar» шість разів на рік, мати повний доступ до архіву та розділу коментарів.