Навіть король Англії має сумніви щодо ШІ

Король Чарльз у четвер провів приватний саміт за участю деяких найвпливовіших представників сфери ШІ та британського уряду, зокрема Дженсена Хуанга з Nvidia, керівників OpenAI та Anthropic, нового міністра Великої Британії з питань ШІ Канішки Нараяна і навіть очільника британської служби зовнішньої розвідки. Там також був Паоло Бенанті, який консультує Папу Римського з питань ШІ.

Виступ короля на саміті — що відбувся в Dumfries House, маєтку XVIII століття в Ейрширі, який належить благодійному фонду короля Чарльза, — був примітним, оскільки королівська родина зазвичай з конституційних міркувань обережно уникає надмірного занурення в політичні питання, а ШІ наразі є однією з найбільш гострих проблем у світі. Король закликав присутніх лідерів знайти спосіб контролювати ШІ «поки не стало надто пізно», додавши, що стрімкий розвиток цієї технології — та її «сутність» — є «одночасно захопливими й глибоко тривожними».

«ШІ вже демонструє величезний потенціал для покращення якості життя та порятунку життів», — сказав він, навівши як приклад медицину й науку. «Однак ті, хто створив ці технології, дедалі частіше попереджають, що ШІ ризикує набути темніших можливостей — можливо, навіть позбавляти життя». Ця заява пролунала лише через кілька днів після того, як дослідник Anthropic звільнився, написавши в інтернеті, що компанії, які розробляють ШІ, «змагаються у створенні машин, набагато розумніших за будь-яку людину», і що людство «може цього не пережити».

Король продовжив, зазначивши, що необхідно терміново належним чином розглянути «екзистенційні небезпеки» того, що станеться, якщо ця технологія потрапить у чужі руки й буде використана «потенційно катастрофічним чином».

«Невже нам не потрібні достатні засоби контролю, поки не стало надто пізно?» — сказав він. Завершуючи саміт, король Чарльз закликав лідерів знайти спосіб використати переваги ШІ та вибудувати міжнародну співпрацю й консенсус для досягнення цієї мети. (Ця заява пролунала після того, як Anthropic обмежила доступ до своїх моделей Fable і Mythos лише для клієнтів зі США, приголомшивши європейську технологічну спільноту й змусивши багатьох замислитися над концепцією суверенітету у сфері ШІ.)

«Ваше завдання полягає не лише в розвитку технологій, а й у тому, щоб гарантувати їхнє неухильне служіння людству, суспільству та природному світу», — сказав він, завершуючи промову. «Приймаючи нове, ми не повинні втрачати те, що є позачасовим».

ЗМІ повідомляють, що він залишався близько 20 хвилин, після чого гості продовжили обговорювати ці питання між собою. На саміт короля OpenAI направила свою фінансову директорку Сару Фрір, тоді як Anthropic представляв Тіно Куельяр, який очолює напрям глобальних справ. На прохання прокоментувати подію Куельяр сказав, що компанія мала честь взяти участь в обговоренні й вдячна королю за «скликання лідерів індустрії та представників різних верств суспільства для обговорення ролі ШІ у служінні суспільному благу».

Це не перший випадок, коли король Чарльз говорить про виклики та переваги ШІ: він робив це у 2023 і 2024 роках. Однак цей саміт є особливо своєчасним, оскільки ШІ продовжує домінувати в кожній галузі, темі та формі суспільної дискусії. Цього місяця Сем Альтман з OpenAI, Ілон Маск і Даріо Амодеї з Anthropic закликали сповільнити розвиток ШІ, однак Хуанг із Nvidia та президент Дональд Трамп швидко відкинули ці заклики. «Ми випереджаємо Китай у сфері ШІ, — сказав президент. — Ми найрозвиненіша країна у світі, і, відверто кажучи, я хочу, щоб так і залишалося, тому що той, хто переможе у сфері ШІ, переможе».

Це демонструє, наскільки складним стало питання, адже інтереси Big Tech, політики та суспільства стикаються. Протягом останнього року OpenAI та Anthropic натякали на масштабні IPO, хоча нещодавно OpenAI заявила, що її плани щодо IPO цього року призупинено на тлі збереження занепокоєння щодо безпеки ШІ.