Anthropic заявила, что её биологическая лаборатория уже обнаружила нечто значительное

На прошлой неделе Anthropic подтвердила, что управляет лабораторией влажной биологии в районе залива Сан-Франциско, где использует свои ИИ-модели для проведения физических экспериментов. На этой неделе гигант в сфере ИИ объявил, что эта лаборатория уже сделала то, что, по ее мнению, является важным открытием: обнаружила новую «систему» ферментов с определенными «свойствами, напоминающими CRISPR», как описывает ее Anthropic.

CRISPR — это естественная иммунная система, используемая бактериями для борьбы с вирусами, которая стала технологией редактирования генов, широко применяемой исследователями.

По сути, Anthropic утверждает, что обнаружила ранее неизвестную систему ферментов, скрытую в ДНК бактериофагов — вирусов, которые заражают бактерии и размножаются внутри них. Исследователи Anthropic говорят, что эта система ведет себя подобно CRISPR, поскольку может «выполнять такие операции, как вырезание, копирование и вставка ДНК».

Более широкому научному сообществу еще предстоит проверить, насколько значительным или новым на самом деле является это открытие. Генеральный директор Anthropic Дарио Амодеи признает, что открытие основывалось на работе других исследователей и что команда из Стэнфорда ранее обнаружила систему, «которая в некоторых отношениях похожа на ту, что нашел Claude», написал он в X.

Однако Амодеи и Anthropic подчеркивают не только само открытие. Они заявляют, что оно было сделано «в основном, хотя и не полностью, Claude», написал генеральный директор.

С одной стороны, это поразительно. Эта лаборатория была создана лишь этой весной (хотя Anthropic отказалась уточнить, сколько именно месяцев она работает). Открытие всего за несколько месяцев стало бы достаточно быстрым результатом, но команда заявила, что на самом деле Claude потребовалось всего 21 час целенаправленной работы. Claude искал информацию в данных с помощью примерно 950 агентов, которые израсходовали 210 миллионов токенов.

И все же откровение о том, что Anthropic проводила биологические эксперименты, появилось сразу после того, как генеральные директоры компаний в сфере ИИ, включая Амодеи, публично признали, что модели стали настолько мощными и потенциально опасными, что отрасли необходимо замедлиться и разработать процедуры проверки безопасности. Это произошло после того, как ранее в этом месяце двое его сотрудников публично заявили, что существует риск, что ИИ погубит всех нас.

Сам Амодеи говорил, что больше всего опасается возможности использования ИИ для биотерроризма. Но он также считает, что ИИ «вылечит большинство болезней за 5–10 лет», написал он. Таким образом, Anthropic явно решила, что преимущества перевешивают риски.

Учитывая это, возможно, самое важное откровение в этой новости заключается не в самом открытии, а в том, что биологическая лаборатория не предоставила Claude полной свободы действий. Физические эксперименты проводили люди.

«Наша лаборатория, расположенная в районе залива Сан-Франциско, выглядит как обычная лаборатория молекулярной биологии. Мы проводим исследования, которые относятся только к самым низким уровням риска биобезопасности (BSL-1 и BSL-2), и не работаем с патогенами, способными заражать людей. Всю лабораторную работу выполняют ученые-люди».

Также верно, что биологические исследования с использованием ИИ — далеко не уникальное направление Anthropic. Исследователи из Стэнфорда недавно опубликовали статью о работе, которую они проводят с большими языковыми моделями и CRISPR. Исследователи из Калифорнийского университета в Сан-Франциско использовали ИИ для разработки ферментов с нуля. Google запустила свой первый инструмент для биологических исследований на базе ИИ AlphaFold еще в 2020 году. Таким образом, ИИ явно пришел в биологические исследования — не только в лаборатории компаний, которые самостоятельно занимаются его разработкой.

Тем не менее Амодеи не исключает появления в будущем полностью автоматизированной биологической лаборатории. «В конечном итоге может оказаться возможным, что сам Claude сможет безопасно проводить эксперименты, автономно управляя лабораторным оборудованием при наличии соответствующих мер безопасности, но сегодня мы этого не делаем», — сказал он.

.