Модель Claude автономно выбрала генную терапию и прооперировала мозг мыши без участия человека в принятии решений

ИИ-агент выбрал препарат, целевую область и координаты для операции на мышиной модели эпилепсии, а затем провёл процедуру. В середине операции он отказался обходить ограничение безопасности.

Команда предоставила Claude Sonnet 5 список из 19 возможных генных терапий, мышиную модель эпилепсии, в которой исследователи вызывают судороги для проверки методов лечения, и доступ к специально созданному моторизированному хирургическому устройству с камерами. Единственной инструкцией было уменьшить количество судорог у мыши.

Агент самостоятельно выбрал препарат, область мозга и стереотаксические координаты, сообщил Габриэль Оканья-Сантеро, сооснователь и генеральный директор Exin Therapeutics, а также аспирант Оксфордского университета. Он описал процедуру в треде на X.

Как агент выбрал терапию и цель

Сначала агент проанализировал, как возникают судороги в этой конкретной модели, а затем предложил терапию, усиливающую определённый тормозящий сигнальный путь в мозге. Он выбрал структуру мозга, которую научная литература определяет как источник судорог этого типа.

Вторую возможную целевую область он отверг с подробным объяснением, заявив, что её эффекты были слишком ненадёжными и что в одном исследовании она не справилась именно с тем типом судорог, который должна была лечить. Агент вывел координаты для инъекции из трёх научных работ, перепроверил ориентиры и усреднил значения. Он также самостоятельно установил объём и скорость инъекции, а также время ожидания.

По словам Оканьи-Сантеро, во время процедуры агент наблюдал за операционным полем через камеру и сделал 32 наблюдения. Он отслеживал введение препарата и сообщал, видит ли кровотечение.

Ограничения безопасности дали сбой в середине операции

Лицензированный ветеринар одобрял каждый необратимый шаг и держал физическую кнопку аварийной остановки, которая немедленно отключила бы питание всех двигателей. Кроме того, система имела фиксированные ограничения, например предельный объём инъекции, которые агенту было прямо запрещено обходить.

Однако эти меры защиты обернулись против команды. После разрыва соединения агент обнаружил, что рассчитанное им целевое положение выходит за пределы физического диапазона движения устройства, и отказался продолжать, даже когда повторный запуск калибровки не изменил его оценки и была предпринята третья попытка.

В итоге агент оказался прав, поскольку ручные корректировки во время предыдущей паузы нарушили работу системы управления. Оканья-Сантеро не смог убедить его продолжить, несмотря на находившееся на столе животное под наркозом, и в конце концов ему пришлось вручную исправить код.

Этот инцидент иллюстрирует проблему согласования ИИ с намерениями человека, то есть вопрос о том, как заставить ИИ-агентов надёжно следовать человеческим намерениям. «Разочаровывающий опыт, но также показательный: он демонстрирует, насколько сильно мы можем начать зависеть от этих моделей и что происходит, когда они просто говорят “нет” в середине срочной процедуры», — написал Оканья-Сантеро.

Выбор модели также отражал проблему согласования, поскольку Sonnet 5 была единственной моделью, согласившейся провести процедуру на живом животном от начала до конца. Более мощные Claude Opus 5.5 и Opus 5 отказались; Opus 5 заявил, что не может гарантировать завершение процедуры и что остановка с иглой в мозге животного под наркозом была бы хуже, чем отказ от начала операции.

Первый случай самостоятельного лечения живого животного ИИ-агентом

Хотя автономные хирургические роботы уже существуют и механически точнее устройства его лаборатории, Оканья-Сантеро отмечает, что во всех предыдущих случаях операцию всегда выбирал человек, а робот лишь выполнял её. Здесь агент и выбрал лечение и цель в мозге, и затем провёл процедуру на живом животном.

«Мне неизвестно о случаях, когда агент ранее выбирал лечение и цель в мозге, а затем вводил его живому млекопитающему», — написал Оканья-Сантеро. Он называет этот подход «лабораторией в контуре в естественных условиях», при котором ИИ-агенты полностью подключены к экспериментальным возможностям лаборатории; над чем Anthropic также работает в рамках своего «стандарта аппаратного обеспечения моделей».

По словам Оканьи-Сантеро, мышь хорошо восстановилась. Ожидается публикация технического отчёта. Результаты не проходили экспертную оценку.

Два недавних эксперимента с новейшими большими языковыми моделями показали, что они обрели значительно более широкие возможности в качестве блоков управления роботами, но что согласование в этой роли представляет собой отдельную проблему.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный передовой отчёт «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.