Дебати щодо безпеки ШІ — про безпеку чи контроль?

Як технологічна індустрія повинна підходити до питання безпеки ШІ? Дедалі частіше керівники найвищого рівня висловлюються щодо цього питання, оскільки точаться суперечки про те, чи свідчать інциденти на кшталт інциденту з Hugging Face — під час якого агент OpenAI зламав системи кількох різних компаній — про те, що ШІ ось-ось занурить наш світ у хаос.

Останніми тижнями провідні лабораторії закликали уповільнити розвиток ШІ. Найбільш радикально висловився генеральний директор Dario Amodei, який написав майже 4-тисячеслівне есе, у якому обґрунтував, чому розробку ШІ слід уповільнити, щоб можна було впровадити належні запобіжники. Цей план передбачає, серед іншого, міжнародну стратегію співпраці між компаніями та урядами для безпечного розгортання технології. Керівники конкуруючих компаній у сфері ШІ — як-от Sam Altman з OpenAI та Elon Musk з xAI — підтримали план Amodei.

Есе спричинило подальше обговорення в усій технологічній індустрії, хоча не всі погодилися із закликом Amodei до глобально скоординованих дій. Ба більше, багато хто, схоже, вважає, що державний нагляд зовсім не обов’язково має відігравати певну роль.

До останніх учасників цієї дискусії долучився генеральний директор Meta Mark Zuckerberg, який цього тижня висловився в X щодо цього питання.

«На мою думку, довіра та узгодженість швидко стають найважливішими можливостями, які вирізнятимуть агентів і моделі». Zuckerberg повідомив, що його компанія відклала випуск своєї моделі ШІ через занепокоєння щодо безпеки. «Meta відклала випуск Muse на кілька місяців, щоб зосередитися на безпеці та захисті», — сказав Zuckerberg. «Ми не закликали всіх інших робити те саме, перш ніж зробити це самостійно. Ми просто зробили це як частину нашої повсякденної роботи, бо це було очевидно правильним рішенням для людей і для нас».

Zuckerberg — який підтримав окремі частини плану Amodei — схоже, натякає, що дії уряду не потрібні, а природні стимули, що визначають структуру індустрії, спонукатимуть компанії належним чином подбати про безпеку. Зрештою, ринок має забезпечити успіх компаніям, які докладають зусиль для створення моделей, що не спричинятимуть хаосу. Це, схоже, узгоджується з масштабним есе самого Zuckerberg, написаним минулого місяця, — у ньому йшлося про обмежену співпрацю з урядом, де це необхідно, але здебільшого наголошувалося на американській конкурентоспроможності як ключі до процвітаючого технологічного майбутнього.

Загалом, схоже, такої позиції дотримуються й багато інших керівників технологічних компаній.

Ще одним високопосадовцем, який долучився до дискусії, став співзасновник Reddit Alexis Ohanian, який сказав CNBC у середу, що, на його думку, технологічна індустрія значною мірою була «глухою до тону», коли пояснювала громадськості ризики ШІ. Однак, як і Zuckerberg, Ohanian також, схоже, висловив сподівання, що компанії зможуть самостійно розібратися з усіма проблемами. Своїми думками також поділився співзасновник Google DeepMind Shane Legg. «Ми живемо в період, коли можливості розвиваються дуже, дуже швидко, — сказав Legg. — Але ми не можемо дозволити, щоб можливості випередили безпеку». Він додав: «Нам справді потрібно детально опрацювати це питання й зрозуміти, як усе працюватиме на практиці».

Попри заклики великих лабораторій до державно-приватної співпраці, деякі прихильники регулювання також, схоже, відносно спокійно ставляться до того, щоб дозволити бізнесу самостійно встановлювати правила. Ба більше, трохи менш помітною, але не менш цікавою новиною цього тижня став звіт The Information, у якому йшлося про те, що OpenAI, Anthropic та інші провідні компанії у сфері ШІ спільно працюють над створенням організації зі стандартизації ШІ — названої одним із видань приватним «органом саморегулювання».

Раніше вже обговорювалося створення подібної організації під федеральним управлінням. Однак Білий дім Трампа — до складу якого входять активні прихильники ШІ і який здебільшого виступає за нерегульований технологічний бізнес (адміністрація навіть намагалася силоміць перешкодити урядам штатів ухвалювати власні закони щодо ШІ) — не вжив жодних заходів. «Цар» ШІ в адміністрації, ветеран технологічної індустрії David Sacks, заявив, що регулювання ШІ слід залишити компаніям, які його розробляють.

Як і Білий дім, впливові члени Конгресу, схоже, так само не зацікавлені в тому, щоб скористатися пропозицією Amodei регулювати його компанію. Невдовзі після публікації есе генерального директора Anthropic спікер Палати представників Mike Johnson так висловився щодо занепокоєння катастрофічним розвитком ШІ: «Ви ж не всі помрете через 10 років», — сказав він.

Приватна організація залишила б індустрію нерегульованою, за винятком добровільних зобов’язань, і закономірно надала б певний обсяг повноважень та впливу компаніям, відповідальним за її створення. Це підводить нас до ще одного поширеного твердження: заклики індустрії до регулювання насправді є стратегією «захоплення регулятора». Згідно з цією аргументацією, впливові компанії, які вже посідають провідні позиції в індустрії, можуть використовувати регуляторні хитрощі, щоб усунути або поставити в невигідне становище менші, менш забезпечені ресурсами компанії — тим самим придушуючи конкуренцію. Для цього не обов’язково потрібні фактичні нормативні акти: можна запровадити добровільні галузеві стандарти, які все одно чинитимуть тиск на менш впливові фірми.

Багато впливових представників китайського уряду висловлювали аналогічну позицію. Після того як Amodei цього тижня закликав «стримувати передові розробки», речник Міністерства закордонних справ Китаю Guo Jiakun звинуватив американців у використанні «нагнітання страху» для зриву розвитку глобального управління ШІ, тоді як в авторській статті китайської державної газети риторику Amodei назвали такою, що прямо взята з «підручника часів холодної війни».

Реструктуризація способу ведення компаніями бізнесу з Китаєм — один із заходів, до яких закликає Amodei у своєму есе, — природно, може стати можливістю для американських компаній схилити ситуацію на свою користь. Amodei навіть визнає, що саме це і є метою. «Якщо ми добре реалізуємо ці заходи, я вважаю, що вони достатньо сповільнять прогрес Китаю, щоб суттєво збільшити відрив Америки впродовж наступних 3–5 років — періоду, коли ШІ стане геополітично найважливішим», — написав він у своєму есе.

Однак не лише Китай вважає, що великі американські лабораторії у сфері ШІ прагнуть схилити гру на свою користь. Aidan Gomez, генеральний директор канадської компанії Cohere у сфері ШІ, нещодавно звинуватив ці компанії у формуванні «картелю», написавши у дописі в блозі: «ШІ потрібні запобіжники. У цьому не полягає суперечка і ніколи не полягала. Суперечка точиться навколо того, хто їх напише, хто зможе брати участь і чиї інтереси захищатимуть ці правила».

Як зазначає Gomez, сфера безпеки ШІ є глибоко політичною, і те, як саме визначатимуться умови безпеки — та хто їх визначатиме, — зрештою допоможе встановити, хто отримає фору, а хто залишиться позаду на наступному етапі конкуренції у сфері ШІ.