На фоне растущих опасений по поводу безопасности ИИ три первопроходца выступили в защиту открытости

Поскольку такие проекты, как Pacing the Frontier, рассматривают ведущие лаборатории как способ сделать исследования в области ИИ безопасными, модели с открытым исходным кодом стали больным местом для индустрии. Из-за бесплатного распространения и слабого контроля над тем, как они используются, модели с открытыми весами трудно контролировать, поэтому некоторые лаборатории относятся к ним как к по-настоящему пугающим.

Но на конференции Ai4, прошедшей на прошлой неделе в Лас-Вегасе, по этому вопросу высказались трое наиболее уважаемых в мире исследователей ИИ — лауреат Нобелевской премии Джеффри Хинтон, генеральный директор и соосновательница World Labs Фэй-Фэй Ли и сооснователь Coursera Эндрю Ын. И хотя они расходились во мнениях относительно конкретных мер, все трое убедительно выступили за сохранение открытости ИИ.

Для всех трех выступавших главным вопросом была возможность того, что несколько крупных компаний в области ИИ будут контролировать темпы прогресса. Когда несколько компаний контролируют доступ к технологии, как это делают Apple и Google в случае мобильных операционных систем, инновации могут замедлиться, а компании, контролирующие платформы, могут влиять на то, что на них создается.

Эндрю Ын сказал, что опасается возникновения аналогичной динамики в сфере ИИ. «Я не хочу, чтобы появились привратники, — сказал Ын. — Это ограничивает доступ всех нас к ИИ».

У компаний есть стимул защищать свои конкурентные преимущества, в том числе влияя на правила, регулирующие отрасль. Это может привести к ситуации, в которой только крупнейшие и наиболее хорошо капитализированные компании будут располагать ресурсами для создания самых передовых систем ИИ.

Решением Ын назвал сохранение множества поставщиков, при котором модели и компании конкурируют друг с другом, вместо того чтобы позволить горстке игроков доминировать в отрасли. «Если бы мне нужно было дать одну рекомендацию, я бы сказал: продвигать открытость, — заявил Ын, — потому что ИИ — удивительная технология, и я хочу, чтобы она была доступна каждому».

Однако не все согласились с тем, что модели с открытыми весами помогут сохранить такое положение дел. В частности, Хинтон провел различие между программным обеспечением с открытым исходным кодом, которое делает базовый код доступным для изучения и изменения, и моделями с открытыми весами, которые предоставляют общественности параметры обученной модели ИИ.

«Открытый исходный код — это прекрасно. Вы показываете людям код, и многие изучают его строки и говорят: “О, здесь ошибка”. Открытые веса означают, что вы обучаете большую модель, а затем передаете людям ее веса. Это совсем другое, — сказал Хинтон. — Я был против открытых [весов], потому что они позволяют людям очень легко взять эти большие базовые модели, обучение которых стоит очень дорого, и за гораздо меньшие деньги обучить их делать плохие вещи, например совершать кибератаки».

Но, несмотря на свои сомнения, Хинтон признал, что модели с открытыми весами уже стали постоянной частью ИИ. «Думаю, в этой битве мы проиграли. Теперь у нас есть модели с открытыми весами, поэтому исчез барьер, мешавший множеству людей получить доступ к этим большим моделям: стоимость обучения базовых моделей. Этого барьера больше нет. Уже слишком поздно».

Однако принятие реальности не означало игнорирования рисков. Позиция Хинтона была ясной: ИИ продолжит развиваться, и он считал это в основном хорошим. По его словам, это повысит производительность и улучшит образование и здравоохранение. «Беспокоиться о возможных негативных последствиях ИИ и о том, что разумные существа могут сделать, став умнее нас, — это не несправедливо. Я считаю несправедливым называть любого, кто так думает, паникером», — добавил Хинтон.

Ын придерживался иной точки зрения. По его словам, вопрос заключался не в том, опасны ли открытые модели, а в том, кто контролирует доступ к ним и кто победит на рынке. Тот, кто создаст более дешевую модель, получит преимущество. Если модели с открытыми весами из Китая получат широкое распространение в Азии, Африке и/или развивающихся странах, предупредил он, они смогут влиять на то, как миллиарды людей будут знакомиться с идеями демократии, свободы и прав человека.

«Я надеюсь, что мы будем поощрять конкурентоспособность Америки и ИИ с открытым исходным кодом. Оказывается, ИИ — это мощный источник мягкой силы. Например, можно увидеть, каких значительных успехов китайская модель добилась в Африке, — сказал Ын. — Но меня беспокоит, что из-за лоббизма в США и раздувания страхов создание ИИ с открытым исходным кодом в Америке с трудом конкурирует с моделями с открытыми весами, появляющимися в Китае. И я опасаюсь, что если Китай найдет принципиально более эффективный с точки зрения затрат способ создавать ИИ, то более экономичные решения получат фундаментальное преимущество в распространении среди бизнеса».

Ли выступила против такой постановки вопроса. «Очень опасно превращать это в дихотомию между полной открытостью и полной закрытостью, — сказала она. — В сложных программных и научных системах все гораздо тоньше».

В качестве примера Ли привела ядерную физику: научные статьи публикуются открыто, но уран регулируется, а лабораторная работа находится где-то посередине. По ее словам, урок заключается в том, что открытость не обязательно должна быть выбором по принципу «все или ничего». Разные уровни экосистемы могут функционировать с разной степенью открытости.

Она также отметила сотрудничество между государственными и частными организациями, например в рамках проекта «Геном человека». По ее словам, полученные знания стали платформой, на которой могли строить свою работу другие, что позволило фармацевтическим компаниям получать прибыль, ученым развивать исследования, а обществу — извлекать пользу.

«Поэтому, я думаю, мы должны использовать [ИИ] как своего рода инфраструктуру, — сказала Ли. — Нам необходим определенный уровень открытости — и в научных открытиях, и в образовании, и в глобальном партнерстве, а также нужны прибыльные бизнес-модели для предпринимателей. Но мы также готовы принять системы с закрытым исходным кодом. Эти дебаты, особенно на широком уровне “мы можем терпеть только один вариант”, являются ложными. Нам нужно прийти к более тонкому пониманию».

Но все согласились с тем, что для удержания ИИ на правильном пути потребуется определенный уровень регулирования. «Мы хотим развивать ИИ в направлении, которое помогает людям, и регулирование поможет нам этого добиться, — сказал Хинтон. — Нельзя оставлять решение о том, каким должен быть ИИ, людям вроде Илона Маска и Марка Цукерберга».