Генеральний директор Anthropic окреслив план «визначення темпу розвитку передових технологій»

Ми дедалі частіше чуємо вкрай тривожні попередження дослідників ШІ про небезпеку штучного інтелекту, а також навіть коментарі генерального директора OpenAI Сема Альтмана про те, що, можливо, настав час «сповільнити темп» розвитку ШІ. Але як це виглядало б на практиці?

У новій публікації в блозі генеральний директор Anthropic Даріо Амодеї не лише підтримав заклик «сповільнити розвиток передових технологій», а й окреслив три загальні стратегії, як це зробити. Він також заявив, що Anthropic «в односторонньому порядку бере на себе зобов’язання» щодо однієї з них.

Дебати про безпеку та узгодженість ШІ цього тижня загострилися після того, як дослідник Джейкоб Коксон написав, що звільняється з Anthropic через побоювання, що провідні компанії у сфері ШІ «грають у рулетку з нашими життями», тоді як люди, які створюють цю технологію, «щиро вірять, що до кінця десятиліття вона може вбити нас усіх» — це твердження повторили й інші працівники Anthropic.

У своїй публікації Амодеї прямо не згадував про звільнення Коксона чи його побоювання, але генеральний директор написав, що дві речі переконали його: настав час обережніше підходити до розвитку ШІ: злам OpenAI-HuggingFace та той факт, що «ШІ останніми місяцями розвивався кардинально швидше», зокрема завдяки його «зростаючій здатності створювати наступне покоління ШІ».

«Ми повинні сповільнити темп, із яким покращуємо можливості моделей ШІ», — написав Амодеї. «Прогрес і надалі здаватиметься швидким, і ми повинні мудро використати час, який отримаємо».

Його перший запропонований крок передбачає залучення «вбудованих оцінювачів» із незалежних організацій, таких як METR, — оцінювачів, які можуть перевіряти, чи справді компанії у сфері ШІ дотримуються своїх зобов’язань щодо темпів розвитку та безпеки, а також гарантувати, що про інциденти, пов’язані з безпекою, повідомляють. (Нещодавно OpenAI критикували за неповідомлення про інцидент, під час якого її ШІ-агенти захопили німецьку вікі-форму.) 

Амодеї порівняв цих оцінювачів із регуляторами, які працювали безпосередньо в банках, і заявив, що запросити їх — це «те, щодо чого Anthropic в односторонньому порядку бере на себе зобов’язання (і закликає уряди зобов’язати інші компанії, що працюють із передовими технологіями, зробити те саме)». Це означає надання оцінювачам корпоративних бейджів, робочих місць і ноутбуків, а також доступу, «здебільшого зіставного з доступом внутрішніх команд оцінки ризиків», за винятком випадків, коли обмеження зумовлені законом або контрактами.

Далі Амодеї закликав провідні компанії у сфері ШІ «в демократичних країнах» координувати «спільні стандарти безпеки, а також обмеження темпів неконтрольованого прогресу ШІ». 

Така координація може здатися малоймовірною як через очевидну неприязнь між Альтманом і Амодеї, так і через те, що їхні компанії, як повідомляється, побоюються, що скоординована пауза може призвести до антимонопольної перевірки. Амодеї натякнув на це побоювання у своїй публікації, написавши, що «з антимонопольних міркувань корисно, щоб уряд США виступив посередником або принаймні уможливив ці обговорення — йому не потрібно брати в них участь, але він має видати вузьке за обсягом звільнення від відповідальності для певних видів розмов про безпеку».

Амодеї також визнав існування примари домінування Китаю у сфері ШІ, яку часто наводять як аргумент проти сповільнення розвитку. Але він заявив, що якщо уряд США та технологічні компанії вживатимуть таких заходів, як відмова продавати китайським компаніям потужні чипи або обладнання для виробництва напівпровідників, а також боротимуться з дистиляцією моделей, вони зможуть «достатньо сповільнити прогрес Китаю, щоб протягом наступних 3–5 років суттєво збільшити відрив Америки».

Насамкінець Амодеї закликав до «глобальної координації», за якої Сполучені Штати та їхні союзники «намагатимуться координувати дії з авторитарними урядами тією мірою, якою це можливо». Амодеї заявив, що це означатиме «співпрацю з Китаєм», і визнав, що існують «очевидні обмеження щодо того, чого можна досягти», але все ж припустив, що можуть з’явитися можливості для домовленостей, навіть якщо йдеться лише про «заборону певних вузьких і очевидно небезпечних способів використання ШІ, наприклад застосування ШІ для виробництва біологічної зброї або надання користувачам можливості робити це».

З огляду на готовність Амодеї в минулому визнавати потенційні небезпеки ШІ, а також відносну відкритість компанії до певних форм регулювання, деякі прихильники ШІ вже критикували його як думера, чиї коментарі сприяли нинішній негативній реакції на ШІ. У відповідь Амодеї заявив, що намагався запропонувати «збалансований» погляд, і стверджував, що ця негативна реакція є «по суті кризою довіри», оскільки люди стали скептично ставитися до технологічних компаній, технологічної індустрії та уряду.

Критики індустрії також скептично ставляться до цих апокаліптичних попереджень про ШІ, припускаючи, що вони відволікають увагу від шкоди, якої технологія вже завдає.

Наприклад, журналіст Браян Мерчант написав, що досі не бачив «переконливої, покрокової документації того, як саме ШІ може перейти від саморекурсивного вдосконалення ШІ до знищення кожної людини на планеті»; він також припустив, що пропозиції, подібні до пропозицій Амодеї, «ймовірно, зрештою працюватимуть лише на користь Anthropic і OpenAI; саме так на практиці виглядає захоплення регулятора».

У своїй новій публікації Амодеї написав, що й надалі «вірить, що ШІ може надзвичайно підвищити якість життя людей».

«Моє прагнення досягти цих переваг не згасає, — сказав він. — Але переваг можна буде досягти лише за умови, що ми правильно створимо цю технологію, і — якщо ми добре використаємо час, який отримаємо, — варто проявити надзвичайно продуману обережність, щоб зробити все правильно».