Кога можем да кажем, че ИИ е направил научно откритие?

Тази история първоначално се появи в The Algorithm, нашия седмичен бюлетин за изкуствения интелект. За да получавате първи подобни истории във входящата си поща, абонирайте се тук.

Миналата сряда Anthropic обяви, че по-рано тази година е създала лаборатория по молекулярна биология, в която агенти на Claude четат и правят хипотези за сложни биологични проблеми, а учени експериментират с резултатите от работата им. И тази лаборатория, задвижвана от изкуствен интелект, по думите на компанията е направила първото си откритие. 

За да разберем какво твърди Anthropic, че е направила системата ѝ, представете си, че прелиствате библиотека с милиони ДНК последователности, натрупани, докато учените секвенират все по-голяма част от живия свят. Една от стъпките към пробив може да бъде откриването на необичайна последователност, която например кодира интересен ензим. След това ще трябва да установите какво прави този ензим и в крайна сметка как да го манипулирате, за да изпълнява нещо полезно.

Това, което според Anthropic нейната система от 950 агенти е открила след 21 часа, не е било съвсем нова последователност. Вместо това агентите са отбелязали повтарящ се модел около познат ензим — специфичен модел, който според Anthropic не е бил каталогизиран досега. Но ако прочетете съобщението на Anthropic, което нарича този модел „напомнящ“ за онова, довело до технологията за редактиране на гени CRISPR, която „вече е преобразила науката и медицината“, оставате с впечатлението, че тази армия от агенти наистина е открила нещо значимо. 

Тези твърдения разгневиха някои биолози. Вирусна публикация на един от тях, впоследствие подкрепена от председателя и главния изпълнителен директор на фармацевтичната компания Eli Lilly, гласи, че „откриването на странен клъстер от гени и повторения често е лесната част. Трудната част, от която произтичат истинските открития, е да се разбере какво всъщност прави системата“. С други думи, агентите са помогнали с част от рутинната лабораторна работа. Но това не е откритие. 

Това ни напомня, че дори когато изкуственият интелект направи нещо впечатляващо — например открие модел в огромно количество биологични данни, който би било трудно да бъде забелязан само с човешко око — самият резултат може да не представлява пробив за науката. Това, което е ново за изкуствения интелект, може да е рутинно, неизненадващо или просто да няма чак толкова голямо значение за един биолог.

Допълнително усложнявайки въпроса, биологът от Копенхагенския университет Марио Родригес Местре заяви през уикенда, че екипът му вече е бил открил този конкретен модел, съобщи New York Times. Местре, който редовно е разговарял с Claude в работата си, се е запитал дали екипът на Anthropic не е научил за него от разговорите му. Anthropic отрича това, но Местре казва, че въпреки това прекратява всякаква употреба на Claude.

Част от проблема тук е, че компаниите за изкуствен интелект не представят системите си просто като инструменти, които учените могат да използват, подобно на микроскопи или суперкомпютри. Те настояват, че самите системи с изкуствен интелект правят открития. За някои този подход е несъвместим с начина, по който действително работи науката, където новото знание обикновено възниква от сътрудничество и постоянно разширяващ се арсенал от инструменти. 

Това също кара хората да стават по-скептични към реалния напредък, когато той се случи. Да сведеш 200 000 кандидати до няколко, които си струва да бъдат проучени, не е малко постижение; това е легитимна научна работа. Фактът, че чатбот с общо предназначение може да извърши тази работа, е забележителен, дори ако хора са помогнали да го насочват и в крайна сметка са провели експериментите. Но щом критерият е дали самият Claude е направил откритие, всичко това се превръща в доказателство за едната или другата страна в спор, който има само два възможни отговора: пробив или провал.

Когато оценяваме изкуствения интелект според това дали е направил откритие, също така е изкушаващо да преместим целта дори след като той действително изглежда е постигнал успех. По-рано този месец OpenAI заяви, че нейните собствени екипни агенти са решили математически проблем за милиони долари. Но няколко седмици по-късно почти всеки скептик към изкуствения интелект в информационния ми поток споделяше статия, в която се питаше дали това е математическият проблем, който наистина има значение. 

За да бъде ясно, статията не твърдеше, че решението на OpenAI е грешно. Вместо това тя излагаше аргумента, че конкретният резултат може да не е онзи, който интересува математиците най-много. Като добавим и обвинението на математик, че моделите може да са използвали част от неговата работа, без да посочат заслугата му, хората остават с впечатлението, че или OpenAI е измамила, или решението така или иначе не е било важно. Или и двете.

Това е част от онова, което тревожи Лукас Харингтън, биолога, написал публикацията, критикуваща съобщението на Anthropic. Той завърши с предложение: според него компаниите за изкуствен интелект трябва „да поставят летвата високо още сега, така че когато изкуственият интелект действително открие фундаментално нов биологичен механизъм, всички да оценят колко голямо е това постижение“. Но докато Сам Алтман от OpenAI и Дарио Амодей от Anthropic се надпреварват да надминат един друг, повишаването на летвата за научните пробиви, постигнати от изкуствения интелект, може да е последното нещо, което ги занимава.