Anthropic заявява, че биологичната ѝ лаборатория вече е открила нещо значимо

Миналата седмица Anthropic потвърди, че управлява лаборатория за експериментална биология в района на залива, където използва своите модели с изкуствен интелект, за да провежда физически експерименти. Тази седмица технологичният гигант в областта на ИИ обяви, че лабораторията вече е направила това, което според него е голямо откритие: нова „система“ от ензими с определени „свойства, напомнящи CRISPR“, както описва Anthropic.

CRISPR е естествена имунна система, използвана от бактериите за борба с вируси, която се превърна в технология за редактиране на гени, широко използвана от изследователите.

По същество Anthropic твърди, че е открила неизвестна досега ензимна система, скрита в ДНК на бактериофаги — вируси, които заразяват бактериите и се размножават в тях. Изследователите на Anthropic казват, че тази система функционира подобно на CRISPR, тъй като може да „извършва операции като изрязване, копиране и поставяне на ДНК“.

На по-широката изследователска общност ще се падне задачата да потвърди колко значимо или ново всъщност е това откритие. Главният изпълнителен директор на Anthropic Дарио Амодей признава, че откритието се основава на работата на други хора и че екип от Станфорд по-рано е открил система, „която в някои отношения е подобна на откритата от Claude“, написа той в X.

Но Амодей и Anthropic не наблягат само на самото откритие. Те изтъкват, че то е направено „предимно, макар и не изцяло, от Claude“, написа главният изпълнителен директор.

От една страна, това е поразително. Тази лаборатория е създадена едва тази пролет (макар че Anthropic отказа да уточни колко месеца е функционирала). Откритие само за няколко кратки месеца би било достатъчно бърза работа, но екипът заяви, че всъщност на Claude са били нужни само 21 часа целенасочени усилия. Claude е претърсил данните с помощта на около 950 агента, които са изразходвали 210 милиона токена.

Все пак разкритието, че Anthropic провежда биологични експерименти, идва непосредствено след като главни изпълнителни директори в сферата на ИИ, включително Амодей, публично признаха, че моделите са станали толкова способни и потенциално опасни, че индустрията трябва да забави темпото и да разработи процедури за тестване на безопасността. Това се случва, след като по-рано този месец двама негови служители публично заявиха, че съществува риск ИИ да убие всички ни.

Самият Амодей е казвал, че едно от нещата, от които се страхува най-много, е възможността ИИ да бъде използван за биотероризъм. Но той също така вярва, че ИИ ще „излекува повечето болести в рамките на 5–10 години“, написа той. Затова Anthropic очевидно е решила, че ползите си струват рисковете.

Като се има предвид това, може би най-голямото разкритие в тази новина не е самото откритие, а фактът, че биологичната лаборатория не е оставила Claude да действа самостоятелно. Физическите експерименти са били извършени от хора.

„Нашата лаборатория, разположена в района на залива, изглежда като типична лаборатория по молекулярна биология. Провеждаме изследвания, които включват само по-ниските нива на риска за биологичната безопасност (BSL-1 и BSL-2), и не работим с патогени, които могат да заразяват хора. Цялата лабораторна работа се извършва от учени.“

Вярно е също, че биологичните изследвания, задвижвани от ИИ, далеч не са уникални за Anthropic. Изследователи от Станфорд току-що публикуваха статия за работата си с LLM и CRISPR. Изследователи от Калифорнийския университет в Сан Франциско са използвали ИИ, за да проектират ензими от нулата. Google стартира първия си инструмент за биологични изследвания, задвижван от ИИ — AlphaFold, още през 2020 г. Така че ИИ очевидно вече е навлязъл в биологичните изследвания извън лабораториите за ИИ, които сами го развиват.

Въпреки това Амодей не изключва възможността в бъдеще да има напълно автоматизирана биологична лаборатория. „В крайна сметка може дори да стане възможно Claude да извършва безопасно експериментите сам, като управлява автономно лабораторното оборудване при наличието на подходящи предпазни мерки, но днес не правим това“, каза той.

.