На тлі зростання занепокоєння щодо безпеки ШІ троє піонерів виступили на захист відкритості

Оскільки такі проєкти, як Pacing the Frontier, розглядають великі лабораторії як спосіб зробити дослідження у сфері ШІ безпечними, моделі з відкритим кодом стали болючим питанням для індустрії. Через вільне поширення та слабкий контроль над тим, як їх використовують, моделі з відкритими вагами нелегко контролювати, що змушує деякі лабораторії вважати їх відверто небезпечними.

Але минулого тижня на конференції Ai4 у Лас-Вегасі троє найавторитетніших у світі дослідників ШІ — лауреат Нобелівської премії Джеффрі Гінтон, генеральна директорка та співзасновниця World Labs Фей-Фей Лі й співзасновник Coursera Ендрю Нґ — висловилися щодо цієї проблеми. І хоча вони не погоджувалися щодо конкретних підходів, усі троє переконливо виступили за збереження відкритості ШІ.

Для трьох промовців головною проблемою була можливість того, що кілька великих компаній у сфері ШІ контролюватимуть темпи прогресу. Коли кілька компаній контролюють доступ до технології, як це роблять Apple і Google щодо мобільних операційних систем, інновації можуть сповільнитися, а компанії, які контролюють платформи, можуть впливати на те, що на них створюють.

Ендрю Нґ сказав, що побоюється виникнення подібної динаміки у сфері ШІ. «Я не хочу, щоб існували привратники. Це обмежує доступ усіх нас до ШІ», — сказав Нґ.

Компанії мають стимул захищати свої конкурентні переваги, зокрема впливаючи на правила, які регулюють індустрію. Це може створити ситуацію, у якій лише найбільші та найкраще капіталізовані компанії матимуть ресурси для створення найпередовіших систем ШІ.

Рішенням Нґа було зберігати кількох постачальників, щоб моделі та компанії конкурували між собою, а не дозволяти жменьці гравців домінувати в галузі. «Якби мені потрібно було дати одну рекомендацію, я б сказав — сприяти відкритості, — сказав Нґ, — тому що ШІ — це дивовижна технологія, і я хочу, щоб вона була в руках кожного».

Але не всі погоджувалися, що моделі з відкритими вагами допоможуть зберегти такий стан речей. Зокрема, Гінтон провів розмежування між програмним забезпеченням із відкритим кодом, яке робить базовий код доступним для перевірки та модифікації, і моделями з відкритими вагами, які відкривають для громадськості параметри навченої моделі ШІ.

«Відкритий код — це чудово. Ви показуєте людям код, і багато хто переглядає його рядки та каже: “О, тут є помилка”. Відкриті ваги означають, що ви навчаєте велику модель, а потім передаєте людям її ваги. Це зовсім інше, — сказав Гінтон. — Я був проти відкритих [ваг], тому що вони значно спрощують використання цих великих базових моделей, навчання яких коштує дуже дорого, для набагато дешевшого навчання їх виконувати шкідливі дії, наприклад кібератаки».

Але, попри свої застереження, Гінтон визнав, що моделі з відкритими вагами вже стали постійною частиною ландшафту ШІ. «Я думаю, що цю битву програно. Тепер у нас є моделі з відкритими вагами, тож бар’єр для доступу багатьох людей до цих великих моделей — вартість навчання базових моделей — зник. Уже надто пізно».

Однак прийняття реальності не означало ігнорування ризиків. Позиція Гінтона була чіткою: ШІ продовжить розвиватися, і він вважав це здебільшого позитивним явищем. За його словами, це підвищить продуктивність і покращить освіту та охорону здоров’я. «Хвилюватися щодо можливих негативних наслідків ШІ та того, що розумні істоти можуть робити, коли стануть розумнішими за нас, — я не думаю, що це несправедливо. Я вважаю несправедливим називати панікером кожного, хто так думає», — додав Гінтон.

Нґ дотримувався іншої думки. За його словами, питання полягало не в тому, чи є відкриті моделі ризикованими, а в тому, хто контролює доступ і хто переможе на ринку. Перевагу матиме той, хто створить дешевшу модель. Якщо китайські моделі з відкритими вагами набудуть широкого поширення в Азії, Африці та/або країнах, що розвиваються, попередив він, вони можуть вплинути на те, як мільярди людей сприйматимуть ідеї демократії, свободи та прав людини.

«Я сподіваюся, що ми заохочуватимемо конкурентоспроможність Америки та ШІ з відкритим кодом. Виявляється, що ШІ є потужним джерелом м’якої сили. Наприклад, можна побачити, яких значних успіхів китайська модель досягла в Африці, — сказав Нґ. — Але я побоююся, що через лобізм у США та нагнітання страху створення ШІ з відкритим кодом в Америці відстає в конкуренції від моделей із відкритими вагами, які надходять із Китаю. І я хвилююся, що якщо Китай знайде принципово ефективніший з погляду витрат спосіб створення ШІ, то більш економні рішення матимуть фундаментальну перевагу в поширенні серед бізнесу».

Лі заперечила проти такого підходу. «Дуже небезпечно перетворювати це на дихотомію між цілковитою відкритістю та цілковитою закритістю, — сказала вона. — У складних програмних системах, як і в наукових системах, усе набагато більш нюансовано».

Лі навела як приклад ядерну фізику: наукові статті публікують відкрито, але уран регулюється, тоді як лабораторна робота перебуває десь посередині. За її словами, урок полягає в тому, що відкритість не обов’язково має бути вибором за принципом «усе або нічого». Різні рівні екосистеми можуть працювати з різним ступенем відкритості.

Вона також наголосила на співпраці між державними та приватними установами, як-от у межах проєкту «Геном людини». За її словами, отримані знання стали платформою, на якій могли будувати інші, що дозволило фармацевтичним компаніям отримувати прибуток, науковцям розвивати свої дослідження, а суспільству — користуватися їхніми результатами.

«Тож я думаю, що ми маємо використовувати [ШІ] саме як таку інфраструктуру, — сказала Лі. — Нам потрібні певні рівні відкритості — і в наукових відкриттях, і в освіті, і в глобальному партнерстві, а також прибуткові бізнес-моделі для підприємців. Але ми також приймемо системи із закритим кодом. Ця дискусія, особливо на всеохопному рівні “ми можемо терпіти лише один варіант”, є хибною. Нам потрібно досягти більшої нюансованості».

Але всі погодилися, що певне регулювання буде необхідним, щоб спрямувати розвиток ШІ у правильне русло. «Ми хочемо розвивати ШІ в напрямку, який допомагає людям, і регулювання допоможе нам цього досягти, — сказав Гінтон. — Не можна залишати на розсуд таких людей, як Ілон Маск і Марк Цукерберг, рішення про те, яким має бути розвиток ШІ».