Не всі переконані, що запропоноване Big AI уповільнення розробки справді пов’язане з безпекою

OpenAI, Anthropic і Google хочуть уповільнити розвиток ШІ — нібито з міркувань безпеки. Але переконані в цьому не всі.

Генеральний директор Anthropic Даріо Амодеї нещодавно закликав індустрію та уряди скоординувати уповільнення розробки передових систем ШІ, попросивши про винятки з антимонопольного законодавства для його реалізації. Інші провідні діячі ШІ, як-от Сем Альтман та Ілон Маск, погодилися. Критики рішуче виступають проти.

Генеральний директор Cohere називає це «картелем під іншою назвою»

Найдетальніша відповідь надійшла від Айдана Гомеса, співзасновника та генерального директора компанії Cohere, що працює у сфері ШІ. У дописі в блозі він називає цю пропозицію спробою встановити правила та закрити ринок. Гомес підтримує незалежне тестування потужних систем ШІ. Але пропозиція Anthropic іде набагато далі: жменька домінантних лабораторій отримала б виняток із антимонопольного законодавства, встановлювала б спільні стандарти й змушувала б кожного іншого розробника у світі дотримуватися їхніх правил.

Особливо критично він оцінює бар’єри для входу на ринок, які створила б ця пропозиція: величезні обчислювальні потужності, постійна інфраструктура моніторингу, спеціалізовані організації з безпеки, вбудовані команди оцінювання та настільки глибокі зв’язки з урядом, щоб усім цим керувати.

Нечисленні організації з оцінювання, названі «незалежними», фінансуються тими самими компаніями, які вони мають перевіряти. Як стверджує Гомес, рамкова система Anthropic визначає ризик як функцію масштабу. Це робить компанії з найбільшими системами єдиними, кого вважають кваліфікованими оцінювати ризик. «Вовк в овечій шкурі, картель під будь-якою іншою назвою», — пише Гомес.

Він вважає попередження про безпеку димовою завісою. Поки індустрія обговорює гіпотетичний суперінтелект, «інструменти клонування голосу, дешевші за рахунок за телефон, можуть за лічені хвилини спорожнити рахунок пенсіонера».

Інженер Hugging Face називає це «безглуздям у дивній формі»

Нільс Рогге, інженер з машинного навчання в Hugging Face, компанії, чия бізнес-модель залежить від широкого вибору відкритих моделей ШІ, називає заяви Амодеї та інших «найдивнішим безглуздям, яке я останнім часом читав». На думку Рогге, Амодеї найбільше непокоять китайські моделі, як-от DeepSeek і Z.ai, і він хоче обмежити моделі з відкритими вагами, щоб захистити свою конкурентну перевагу. Лабораторії ШІ роблять величезні ставки на масштаб, і менші моделі з відкритими вагами могли б підірвати цю стратегію, хоча поки немає чітких ознак, що це відбувається в скільки-небудь значному масштабі.

Сучасні великі мовні моделі ще дуже далекі від того, щоб становити екзистенційні ризики, каже Рогге. Він також згадує інцидент, під час якого автономні моделі OpenAI зламали Hugging Face, гравця із закритим кодом і величезними обчислювальними ресурсами. Моделі з відкритим кодом допомогли із захистом. Саме тому галузі потрібні прозорість і відкритість, а не зачинені двері, каже Рогге.

Сакс закликає лабораторії ШІ припинити вдавати, що їм потрібен дозвіл

Девід Сакс, відповідальний у Білому домі за питання ШІ та криптовалют за президента Трампа і венчурний капіталіст, безпосередньо відповів Амодеї та Альтману в X. «За будь-яким розумним показником» OpenAI та Anthropic утворюють дуополію у сфері передового інтелекту, написав Сакс. Якщо їхні ще не випущені моделі справді настільки лякають, він підтримує добровільне уповільнення.

Однак мотивація не є суто альтруїстичною, стверджує Сакс. Обидві компанії стикаються з величезними ризиками відповідальності за продукцію, якщо їхні моделі сприятимуть серйозній кібератаці. «Ринок уже карає моделі, які поводяться непередбачувано або несанкціоновано. Після випадку з Hugging Face для OpenAI та Anthropic просто вигідно обміняти частину сирої потужності на надійність і передбачуваність», — написав Сакс.

Він також попередив, що прив’язування уповільнення до конкретної нормативної бази схоже на вимагання. Китай «дуже малоймовірно» приєднається до будь-якої глобальної угоди, додав він, і, можливо, має рацію: Пекін уже відкинув запропоновані плани уповільнення, назвавши їх маневром США для закріплення свого лідерства у сфері ШІ.

Трамп називає побоювання щодо ШІ містифікацією

Президент Дональд Трамп пішов ще далі. У дописі в Truth Social він назвав попередження про те, що «ШІ захопить світ», «містифікацією», поставивши їх в один ряд із дискусією про зміну клімату, розслідуванням щодо Росії та процедурами свого імпічменту. Трамп також заявив, що китайський президент Сі «щойно оголосив, що Китай абсолютно нічого не робитиме, аби перешкоджати ШІ чи його майбутньому».

У кількох наступних дописах Трамп подвоїв ставки. Він назвав «шахрайство зі ШІ», яке просувають «радикальні ліві деморати», схожим на «їхнє нещодавнє шахрайство з глобальним потеплінням, коли всі нібито мали померти від надзвичайної спеки».

Технічний директор Міністерства війни Еміл Майкл підтримав Трампа, заявивши, що ці попередження походять від «глибоко вкоріненої ідеології, яка є доволі антиутопічною». Майкл має глибоку, ідеологічно вмотивовану неприязнь до Anthropic, що ґрунтується на етичних принципах компанії.

Політичні опоненти адміністрації Трампа зайняли протилежну позицію. Барак Обама, Берні Сандерс та Камала Гарріс підтримують уповільнення й привітали прагнення лабораторій до більшої прозорості.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові технології «AI Radar», повний доступ до архіву та доступ до розділу коментарів.