OpenAI, Anthropic і Google вже кілька тижнів обговорюють безпеку ШІ

Кріс Лехан, керівник глобальної політики OpenAI, повідомив журналістам у вівторок, що компанія вже кілька тижнів працює з конкурентами Anthropic і Google DeepMind над безпекою ШІ, як уперше повідомило Bloomberg. Як повідомляється, Лехан перебуває у Вашингтоні, щоб працювати з американськими законодавцями над питаннями катастрофічних ризиків, пов’язаних із ШІ.

Це відкриття сталося після есе генерального директора Anthropic Даріо Амодеї, опублікованого в суботу. У ньому він закликав індустрію об’єднатися, щоб уповільнити розвиток передового ШІ та уникнути катастрофічних ризиків. Лідери ШІ-індустрії, зокрема Сем Альтман з OpenAI, Деміс Хассабіс із Google та Ілон Маск із SpaceXAI, підтримали лист Амодеї та його заклик до дій. Альтман заявив, що OpenAI приєднається до Anthropic, залучивши до компанії сторонніх оцінювачів для моніторингу безпеки. 

У вівторок Лехан визнав, що три компанії ведуть переговори щодо безпеки ШІ вже кілька тижнів. Деякі з них, зокрема Альтман, зазначили, що такі переговори можуть створити для компаній ризик порушення антимонопольного законодавства, якщо буде встановлено, що координація спрямована на придушення конкуренції. У своєму есе Амодеї запропонував обмежену урядову відмову від застосування закону, яка дозволила б таку координацію у сфері безпеки, але, як повідомляється, Лехан заявив, що фірмам вона не потрібна. 

Новина підтверджує попередні повідомлення та натякає, що компанії працювали разом. В інтерв’ю Fortune наприкінці минулого тижня Альтман натякнув, що вів приватні переговори з іншими лідерами ШІ-індустрії. Цього тижня The Information повідомило, що три компанії працюють над створенням організації зі стандартизації ШІ-індустрії — за словами Альтмана, як повідомляється, це має відбутися без підтримки уряду США. 

У липні Хассабіс закликав США створити нову організацію зі стандартизації, яка виконувала б функції наглядача за ШІ, мала повноваження перевіряти найпередовіші у світі моделі та координувати уповільнення розробок у всій індустрії, якщо небезпека зростатиме. 

Президент Трамп, зі свого боку, відкинув побоювання щодо безпеки, назвавши їх містифікацією, і виступив проти потреби в жорсткішому регулюванні, заявивши, що будь-яке уповільнення дасть Китаю перевагу в перегонах. Його головний радник із питань ШІ Девід Сакс — давній інвестор, який має особисту зацікавленість у значній частині цієї індустрії, — підтримав цю позицію, заявивши, що побоювання щодо екзистенційного ризику від ШІ перебільшені.

На тій самій зустрічі у вівторок Лехан заявив, що OpenAI підтримує положення закону FRONTIER Act, яке зобов’язало б провідні лабораторії, що розробляють передові моделі, допускати до своїх компаній «організації незалежної перевірки», щоб гарантувати безпечну розробку моделей.

TechCrunch звернувся до Anthropic, Google та OpenAI по коментар.