Когда можно сказать, что ИИ сделал научное открытие?

Эта история первоначально появилась в The Algorithm, нашем еженедельном информационном бюллетене об ИИ. Чтобы первыми получать подобные истории на свою почту, подпишитесь здесь.

В прошлую среду Anthropic объявила, что ранее в этом году запустила лабораторию молекулярной биологии, где агенты Claude изучают и выдвигают гипотезы по сложным биологическим вопросам, а ученые проводят эксперименты на основе их выводов. И эта лаборатория, работающая на базе ИИ, заявила компания, сделала свое первое открытие. 

Чтобы понять, что, по словам Anthropic, сделала ее система, представьте, что вы листаете библиотеку из миллионов последовательностей ДНК, собранных учеными по мере секвенирования все большей части живого мира. Одним из шагов на пути к прорыву могло бы стать обнаружение необычной последовательности, кодирующей, например, интересный фермент. Затем нужно было бы выяснить, что делает этот фермент, и в конечном счете понять, как управлять им, чтобы он выполнял что-то полезное.

То, что, по словам Anthropic, ее система из 950 агентов обнаружила за 21 час, не было совершенно новой последовательностью. Вместо этого агенты выявили повторяющийся паттерн, окружающий известный фермент, — особый паттерн, который, как утверждает Anthropic, ранее не был каталогизирован. Но если прочитать объявление Anthropic, где этот паттерн назван «напоминающим» то, что привело к созданию технологии редактирования генов CRISPR, которая «уже преобразила науку и медицину», складывается впечатление, будто эта армия агентов действительно обнаружила нечто важное. 

Эти заявления разозлили некоторых биологов. Вирусный пост одного из них, который впоследствии поддержали председатель совета директоров и генеральный директор фармацевтической компании Eli Lilly, гласил, что «найти необычный кластер генов и повторов зачастую проще всего. Самое сложное — и именно там рождаются настоящие открытия — понять, что на самом деле делает система». Иными словами, агенты помогли с некоторой рутинной лабораторной работой. Но открытием это не является. 

Это напоминает о том, что даже если ИИ делает нечто впечатляющее — например, находит в огромном массиве биологических данных паттерн, который было бы трудно заметить невооруженным человеческим глазом, — сам результат может не быть научным прорывом. То, что ново для ИИ, для биолога может оказаться рутинным, неудивительным или попросту не столь значимым.

Ситуацию еще больше запутал биолог из Копенгагенского университета Марио Родригес Местре, который, как сообщила New York Times, в минувшие выходные заявил, что его команда уже обнаружила этот конкретный паттерн. Местре, который регулярно общался с Claude в рамках своей работы, задался вопросом, не узнала ли команда Anthropic об этом из его разговоров. Anthropic это отрицает, но Местре говорит, что все равно прекращает пользоваться Claude.

Отчасти проблема в том, что компании, разрабатывающие ИИ, представляют свои системы не просто как инструменты, которыми могут пользоваться ученые, — подобно микроскопам или суперкомпьютерам. Они настаивают, что сами системы ИИ совершают открытия. Для некоторых такой подход несовместим с тем, как на самом деле работает наука: новые знания обычно возникают благодаря сотрудничеству и постоянно расширяющемуся арсеналу инструментов. 

Из-за этого люди также начинают скептически относиться к подлинному прогрессу, когда он происходит. Сократить число кандидатов с 200 000 до нескольких достойных дальнейшего изучения — немалое достижение; это полноценная научная работа. Сам факт, что универсальный чат-бот способен выполнить такую работу, примечателен, даже если люди помогали направлять его и в конечном счете проводили эксперименты. Но как только критерием становится то, совершил ли открытие сам Claude, все это превращается в доказательство одной из сторон в споре, у которого есть лишь два исхода: прорыв или провал.

Если судить об ИИ по тому, совершил ли он открытие, возникает соблазн передвигать планку даже после того, как он, казалось бы, действительно добился успеха. Ранее в этом месяце OpenAI заявила, что ее собственные командные агенты решили математическую задачу стоимостью миллион долларов. Но пару недель спустя почти каждый скептик по отношению к ИИ в моей ленте делился статьей с вопросом о том, была ли это математическая задача, которая действительно имела значение. 

Для ясности: в статье не утверждалось, что решение OpenAI было неверным. Вместо этого в ней говорилось, что конкретный результат, возможно, не является тем, который больше всего интересует математиков. Если добавить к этому обвинение математика в том, что модели могли использовать некоторые его работы без указания авторства, у людей остается ощущение, будто OpenAI либо жульничала, либо решение все равно было неважным. Или и то и другое.

Именно это отчасти беспокоит Лукаса Харрингтона, биолога, написавшего пост с критикой объявления Anthropic. В конце он высказал предложение: по его словам, компании, разрабатывающие ИИ, должны «уже сейчас установить высокую планку, чтобы, когда ИИ действительно обнаружит принципиально новый биологический механизм, все смогли оценить масштаб этого события». Но пока Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic соревнуются, пытаясь превзойти друг друга, повышение планки для научных прорывов, совершенных ИИ, может быть последним, о чем они думают.