Профессора по ИИ договариваются о новых реалиях академических исследований

Эта история впервые появилась в The Algorithm, нашем еженедельном информационном бюллетене об ИИ. Чтобы первыми получать подобные материалы прямо на электронную почту, подпишитесь здесь.

На прошлой неделе я отправилась на 30 миль к югу от Сан-Франциско, в отель в Маунтин-Вью, штат Калифорния, чтобы встретиться с одними из самых выдающихся и самых перспективных исследователей ИИ в мире. Я проводила интервью за круглыми столами и выступала на тренинге по взаимодействию со СМИ в рамках встречи участников программы AI2050 организации Schmidt Sciences — инициативы, финансируемой Эриком и Венди Шмидт и поддерживающей ученых, чья работа связана с ИИ. Список стипендиатов — это своего рода «кто есть кто» среди светил ИИ, и хотя не все они смогли добраться до залива, каждый раз, поворачивая за угол, я встречала ученого, с которым уже брала интервью или чьими исследованиями восхищалась. (Для полной ясности: в 2024 году я получила премию за научную коммуникацию, учрежденную при финансировании Schmidt Sciences.) 

Для университетских исследователей ИИ, составляющих большую часть группы AI2050, сейчас странное время. За последние четыре года исследования ИИ переориентировались на большие языковые модели, а передний край этой области переместился из академических учреждений в частные компании. Университеты попросту не могут позволить себе необходимые для обучения и запуска передовых моделей графические процессоры, и даже если бы могли, Anthropic и OpenAI не позволяют никому больше увидеть внутренние детали Claude или ChatGPT.

Во время обеда Ника Хагталаб, профессор компьютерных наук Калифорнийского университета в Беркли, сказала, что быть ученым, занимающимся ИИ, в наши дни — это все равно что быть биологом в мире, где частные компании обладают исключительным контролем над инструментом редактирования генов CRISPR. Эксперты за пределами передовых лабораторий могут изучать поведение ChatGPT и Claude, но не могут проводить детальные исследования конструкции и обучения этих инструментов, а также самостоятельно влиять на их разработку или обучение.

 Программа AI2050 действительно предоставляет стипендиатам определенное финансирование, которое они могут использовать для покупки графических процессоров; некоторые исследователи, с которыми я разговаривала, назвали это большим преимуществом участия в программе. Но деньги остаются насущной проблемой, особенно с учетом сокращения федерального финансирования науки в США. Даже для исследователей, которые не запускают локальные модели самостоятельно, стоимость многократных запросов к моделям OpenAI, Anthropic и Google для их тщательного изучения может быть непомерно высокой.

Вместо того чтобы сосредоточиваться на совершенствовании возможностей ИИ, многие стипендиаты обращают внимание на вопросы, которыми Anthropic или OpenAI, скорее всего, не станут заниматься. «Я стараюсь не работать над проблемами, которые, как мне кажется, будет решать технологическая компания», — говорит Анжали Филд, профессор компьютерных наук в Университете Джонса Хопкинса. Компаниям нужно зарабатывать деньги, и исследовательские вопросы с небольшими перспективами получения прибыли могут не стоить вложений — особенно если ответы на них способны выставить компании в невыгодном свете. Недавно, например, Филд провела исследование, в котором обнаружила, что языковые модели дают менее содержательные ответы на запросы, сформулированные в манере, более распространенной среди женщин, чем среди мужчин. Трудно представить, что подобное исследование появилось бы в Anthropic или OpenAI.

Есть также огромная группа ученых, занимающихся ИИ, которые вообще не работают с большими языковыми моделями. Многие из них создают специализированные модели ИИ, способные анализировать данные, делать полезные прогнозы или даже моделировать целые физические системы. Эти исследователи не обязательно конкурируют с передовыми лабораториями — команда Google DeepMind, создавшая удостоенную Нобелевской премии модель для прогнозирования структуры белков AlphaFold, была расформирована в прошлом месяце. Но они сталкиваются с множеством собственных проблем. На встрече несколько ученых выразили обеспокоенность тем, как повсеместное незнание об ИИ, не связанном с большими языковыми моделями, влияет на их работу. Исследователям, создающим специализированные инструменты ИИ для борьбы с изменением климата, например, иногда трудно отстаивать важность своей работы, когда так много людей считают, что «ИИ» означает «пожирающие энергию большие языковые модели».

Все эти проблемы меняют академический ландшафт: несколько известных ученых недавно взяли отпуск в своих университетах, чтобы присоединиться к передовым лабораториям, а многие стипендиаты AI2050 совмещают академическую работу с должностями в индустрии. А за последние шесть месяцев возникла еще одна угроза. Модели OpenAI решили ряд реальных исследовательских задач в математике, и некоторые эксперты опасаются, что у людей может не оказаться будущего в чистой математике. Одна из стипендиаток, с которой я разговаривала, сказала, что беспокоится о психическом здоровье своих коллег-математиков.

Но все не так мрачно. Во-первых, эмпирическую науку может оказаться гораздо труднее автоматизировать, чем математику, поскольку сбор данных по своей природе является медленным процессом. А некоторые исследователи видят в ИИ-математиках и ИИ-ученых скорее благо, чем угрозу, — в том числе Тим Деттмерс, специалист по компьютерным наукам из Уничверситета Карнеги — Меллона, который работает над тем, чтобы сделать модели ИИ более быстрыми и дешевыми в эксплуатации. Ученые-ИИ не заменят людей, считает Деттмерс. Напротив, они могут значительно повысить эффективность работы ученых, благодаря чему у него и его коллег появится возможность воплотить все те смелые и вдохновляющие идеи, до которых иначе они, возможно, никогда бы не добрались.

А ученые — люди стойкие. Те же ограничения ресурсов, которые не позволяют им обучать передовые модели, подталкивают их к поиску новых способов сделать модели меньше и эффективнее или исследовать совершенно новые архитектуры. Если следующий крупный прорыв в ИИ произойдет не в крупной компании, а в небольшой академической лаборатории, я не удивлюсь.