Професори з ШІ ведуть переговори щодо нових реалій академічних досліджень

Ця стаття вперше з’явилася в The Algorithm — нашій щотижневій розсилці про ШІ. Щоб першими отримувати у свою поштову скриньку подібні матеріали, підпишіться тут.

Минулого тижня я вирушив на 30 миль на південь від Сан-Франциско, до готелю в Маунтін-В’ю, штат Каліфорнія, щоб приєднатися до одних із найвидатніших і найперспективніших дослідників ШІ у світі. Я проводив круглі столи з інтерв’ю та виступав на медіатренінгу під час зустрічі учасників програми Schmidt Sciences AI2050 — ініціативи, яку фінансують Ерік і Венді Шмідти та яка підтримує науковців, чия робота пов’язана зі ШІ. Список стипендіатів — це своєрідний довідник найвідоміших постатей у сфері ШІ, і хоча не всі вони змогли приїхати до затоки, щоразу, коли я завертав за ріг, то бачив науковця, якого раніше інтерв’ював або чиїми дослідженнями захоплювався. (Повне розкриття інформації: у 2024 році я отримав премію за наукову комунікацію, засновану Schmidt Sciences.) 

Для університетських дослідників ШІ, які становлять більшість учасників AI2050, зараз дивний час. За останні чотири роки дослідження ШІ переорієнтувалися на великі мовні моделі, а передовий край цієї галузі перемістився з академічних установ до приватних компаній. Університети просто не можуть дозволити собі графічні процесори, необхідні для навчання й роботи передових моделей, а навіть якби могли, Anthropic і OpenAI не дозволяють нікому іншому побачити внутрішні деталі Claude або ChatGPT.

Під час обіду Ніка Хагтлаб, професорка комп’ютерних наук у Каліфорнійському університеті в Берклі, сказала, що бути академічним дослідником ШІ сьогодні — це як бути біологом у світі, де приватні компанії мають ексклюзивний контроль над інструментом редагування генів CRISPR. Експерти за межами передових лабораторій можуть вивчати, як поводяться ChatGPT і Claude, але не можуть проводити детальних досліджень дизайну та навчання цих інструментів, а також самостійно впливати на їхній дизайн чи навчання.

 Програма AI2050 справді надає стипендіатам певне фінансування, яке вони можуть використати для придбання графічних процесорів; кілька дослідників, з якими я спілкувався, назвали це значною перевагою участі в програмі. Але гроші залишаються нагальною проблемою, особливо з огляду на скорочення федерального фінансування науки у Сполучених Штатах. Навіть для дослідників, які самі не запускають локальні моделі, вартість багаторазових запитів до моделей OpenAI, Anthropic і Google для їхнього ретельного вивчення може бути непосильною.

Замість того щоб зосереджуватися на розширенні можливостей, багато стипендіатів спрямовують увагу на питання, якими, ймовірно, не займатимуться Anthropic або OpenAI. «Я намагаюся не працювати над проблемами, які, на мою думку, буде розв’язано технологічною компанією», — каже Анжалі Філд, професорка комп’ютерних наук в Університеті Джонса Гопкінса. Компаніям потрібно заробляти гроші, і дослідницькі питання, що мають незначні перспективи отримання прибутку, можуть бути не варті інвестицій — особливо якщо відповіді на них можуть виставити компанії в невигідному світлі. Нещодавно, наприклад, Філд провела дослідження, у якому виявила, що мовні моделі дають менш складні відповіді на запити, сформульовані у спосіб, частіше вживаний жінками, ніж чоловіками. Важко уявити, що подібне дослідження вийшло б з Anthropic або OpenAI.

Існує також величезна група академічних дослідників ШІ, які взагалі не працюють із великими мовними моделями. Багато з них — науковці, які створюють спеціалізовані моделі ШІ, здатні аналізувати дані, робити корисні прогнози або навіть моделювати цілі фізичні системи. Ці дослідники не обов’язково конкурують із передовими лабораторіями — команду Google DeepMind AlphaFold, яка створила удостоєну Нобелівської премії модель для прогнозування структури білків, минулого місяця розформували. Але вони стикаються з безліччю власних викликів. Під час зустрічі кілька учасників висловили занепокоєння тим, як поширене нерозуміння ШІ, не пов’язаного з великими мовними моделями, впливає на їхню роботу. Дослідникам, які створюють спеціалізовані інструменти ШІ для боротьби зі зміною клімату, наприклад, іноді важко відстоювати свою роботу, коли так багато людей вважають, що «ШІ» означає «енергоємні великі мовні моделі».

Усі ці виклики змінюють академічний ландшафт: кілька відомих науковців нещодавно взяли відпустку в університетах, щоб приєднатися до передових лабораторій, а багато стипендіатів AI2050 обіймають посади в індустрії паралельно з академічною роботою. А за останні шість місяців виникла ще одна загроза. Моделі OpenAI розв’язали низку реальних дослідницьких задач із математики, і деякі експерти побоюються, що в людей може не бути майбутнього в чистій математиці. Одна зі стипендіаток, з якою я спілкувався, сказала, що непокоїться про психічне здоров’я своїх колег-математиків.

Але все не так безнадійно й похмуро. По-перше, емпіричну науку може виявитися набагато важче автоматизувати, ніж математику, оскільки збір даних за своєю суттю є повільним процесом. А деякі дослідники вважають математиків і науковців зі ШІ радше благом, ніж загрозою — зокрема Тім Деттмерс, комп’ютерний науковець із Карнегі-Меллонського університету, який працює над тим, щоб моделі ШІ працювали швидше й дешевше. Науковці зі ШІ не замінять людей, каже Деттмерс. Навпаки, вони можуть зробити людей-науковців значно ефективнішими, щоб він та його колеги отримали змогу втілити всі ті сміливі й натхненні ідеї, до яких інакше, можливо, ніколи б не дійшли руки.

А науковці — витривалі люди. Саме обмеженість ресурсів, яка не дає їм змоги навчати передові моделі, також підштовхує їх знаходити нові способи робити моделі меншими й ефективнішими або досліджувати цілком нові архітектури. Якщо наступний великий прорив у ШІ станеться не у великій компанії, а в невеликій академічній лабораторії, я не буду здивований.