Anthropic заявила, що її біологічна лабораторія вже відкрила дещо значуще

Минулого тижня Anthropic підтвердила, що керує лабораторією «мокрої» біології в районі затоки Сан-Франциско, де використовує свої моделі ШІ для проведення фізичних експериментів. Цього тижня технологічний гігант у сфері ШІ оголосив, що ця лабораторія вже зробила те, що, на його думку, є важливим відкриттям: виявила нову «систему» ферментів із певними «властивостями, що нагадують CRISPR», як описує це Anthropic.

CRISPR — це природна імунна система, яку бактерії використовують для боротьби з вірусами; вона перетворилася на технологію редагування генів, яку широко застосовують дослідники.

По суті, Anthropic стверджує, що виявила раніше невідому систему ферментів, приховану в ДНК бактеріофагів — вірусів, які заражають бактерії та розмножуються всередині них. Дослідники Anthropic кажуть, що ця система працює подібно до CRISPR, оскільки може «виконувати такі операції, як вирізання, копіювання та вставлення ДНК».

Наскільки великим або новим насправді є це відкриття, має перевірити ширша наукова спільнота. Генеральний директор Anthropic Даріо Амодей визнає, що відкриття ґрунтувалося на роботі інших людей, а команда зі Стенфордського університету раніше виявила систему, «яка в деяких аспектах подібна до тієї, що знайшов Claude», написав він у X.

Але Амодей і Anthropic наголошують не лише на самому відкритті. Вони підкреслюють, що його було зроблено «здебільшого, хоча й не повністю, Claude», написав генеральний директор.

З одного боку, це вражає. Цю лабораторію створили лише навесні (хоча в Anthropic відмовилися уточнити, скільки саме місяців вона працює). Відкриття за кілька коротких місяців було б достатньо швидким результатом, але команда заявила, що насправді Claude знадобилося лише 21 година цілеспрямованої роботи. Claude шукав у даних за допомогою приблизно 950 агентів, які витратили 210 мільйонів токенів.

Втім, розкриття інформації про те, що Anthropic проводить біологічні експерименти, відбулося одразу після того, як генеральні директори компаній у сфері ШІ, зокрема Амодей, публічно визнали, що моделі стали настільки потужними й потенційно небезпечними, що індустрія має сповільнити темпи та розробити процедури перевірки безпеки. Це сталося після того, як на початку цього місяця двоє його співробітників публічно заявили, що існує ризик, що ШІ може вбити всіх нас.

Сам Амодей казав, що одним із його найбільших страхів є використання ШІ для біотероризму. Але він також вважає, що ШІ «вилікує більшість хвороб за 5–10 років», написав він. Тож Anthropic явно вирішила, що переваги варті ризиків.

З огляду на це, можливо, найбільше розкриття в цій новині полягає не в самому відкритті, а в тому, що біологічна лабораторія не надала Claude повної свободи дій. Фізичні експерименти проводили люди.

«Наша лабораторія, розташована в районі затоки Сан-Франциско, має вигляд типової лабораторії молекулярної біології. Ми проводимо дослідження, що стосуються лише нижчих рівнів біологічної безпеки (BSL-1 і BSL-2), і не працюємо зі збудниками, здатними заражати людей. Усю лабораторну роботу виконують науковці-люди».

Також правда, що біологічні дослідження з використанням ШІ аж ніяк не є унікальними для Anthropic. Дослідники зі Стенфордського університету щойно опублікували статтю про роботу, яку вони проводять із великими мовними моделями та CRISPR. Дослідники з Каліфорнійського університету в Сан-Франциско використали ШІ для розробки ферментів з нуля. Google запустила свій перший інструмент для біологічних досліджень на основі ШІ — AlphaFold — ще у 2020 році. Отже, ШІ явно вже прийшов у біологічні дослідження, які проводять не лише самі лабораторії, що розробляють ШІ.

Проте Амодей не виключає можливості повністю автоматизованої біологічної лабораторії в майбутньому. «Зрештою, може стати можливим, що Claude самостійно й безпечно проводитиме експерименти, автономно керуючи лабораторним обладнанням за наявності належних запобіжників, але сьогодні ми цього не робимо», — сказав він.

.