Anthropic пропонує законопроєкт про безпеку ШІ, який може заблокувати модель, якщо через неї можуть загинути 50+ людей

Протягом останнього року точаться побоювання щодо потенційної небезпеки, яку становить штучний інтелект, а також запеклі дебати про належний шлях до безпеки ШІ. Тепер, схоже, Anthropic представила власне бачення того, як уряд міг би регулювати цю галузь.

Politico нещодавно повідомило, що лабораторія ШІ поширює новий законопроєкт про безпеку ШІ, який, як вона сподівається, Конгрес може розглянути та ухвалити. Законопроєкт передбачає певні сценарії, за яких випуск моделі ШІ можна було б заблокувати.

За даними Politico, ці сценарії передбачають «передбачуваний, безпосередній ризик» — ситуацію, у якій під загрозою загибелі опиняються понад 50 людей або збитки майну можуть перевищити мільярд доларів. Видання зазначає, що катастрофічний ризик має «виникати внаслідок створення чи випуску біологічної зброї, обходу моделлю засобів контролю розробника або кібератаки».

Запропоновані тут показники — 50 людей і мільярд доларів — подібні до показників у законодавчому акті Каліфорнії, який нещодавно набув чинності, законопроєкті Сенату № 53, де такі сценарії аналогічно визначено як рівнозначні «катастрофічному ризику».

У законопроєкті Anthropic пропонується оцінювати потенційну здатність моделі спричинити катастрофу за допомогою «незалежних оцінювачів», яких буде зареєстровано в Міністерстві торгівлі США. Потенційно цим оцінювачам можуть платити самі лабораторії ШІ — за умови, що «оплата не залежатиме від результатів оцінювання», пише Politico.

Незрозуміло, як запропонована система гарантуватиме, що платежі не зможуть впливати на оцінювання. Кілька місяців тому голова DeepMind Деміс Гассабіс висловив припущення, що орган саморегулювання ШІ має наслідувати Управління з регулювання фінансової індустрії (FINRA).

Відповідно до законопроєкту Anthropic, якщо оцінювачі визначать наявність безпосереднього катастрофічного ризику, вони матимуть 72 години, щоб повідомити про це Міністерство торгівлі. Після цього Міністерство торгівлі має звернутися до судді у Вашингтоні, округ Колумбія, з проханням призупинити випуск моделі. Законопроєкт прямо заборонятиме будь-якому федеральному відомству на власний розсуд зупиняти розповсюдження моделі, пише Politico.

Anthropic не одразу відповіла на запит TechCrunch про коментар, але представник компанії підтвердив Politico факт існування законопроєкту. «Цей законопроєкт містить пропозиції, викладені в Рамковій програмі Anthropic щодо передового ШІ, яку ми просуваємо серед федеральних законодавців і законодавців штатів із червня», — сказав представник.

Теоретичні ризики, описані в проєкті політики, дещо відрізняються від типів інцидентів, які останнім часом найбільше турбують технологічну індустрію. Хоча є люди, які попереджають про потенційну загибель людства, головне занепокоєння здебільшого пов’язане із загрозою автономного хакерства. Численні інциденти, під час яких програми ШІ, очевидно, не підкорялися своїм операторам-людям і зламували вебсайти у відкритому інтернеті, посилили побоювання, що моделям може бракувати належних засобів безпеки.

Намагаючись запропонувати розв’язання кризи, яку самі лабораторії допомогли спричинити, такі компанії, як Anthropic, висувають власні бажані рішення.

Справді, попри постійні попередження лабораторій про те, що технологія, яку вони продають, може призвести до загибелі людської цивілізації, вони здебільшого опиралися обов’язковому державному нагляду. Натомість вони пропонували добровільну систему вбудованих оцінювачів — нібито «нейтральних» сторонніх спостерігачів, яких розміщують усередині організацій, що займаються ШІ, аби вони могли відстежувати моделі на предмет потенційних ознак ризику чи зловживань.

Водночас сама пропозиція Anthropic щодо законодавства, схоже, дещо виходить за межі інших регуляторних пропозицій, висунутих представниками галузі, зокрема Nvidia, генеральний директор якої Дженсен Хуанг нещодавно заявив, що індустрії ШІ взагалі не потрібні нові закони.