Google DeepMind запускає інститут для розширення дискусії про AGI

Дослідники Google і Google DeepMind у середу запустили Інститут DeepMind, щоб розвивати дискусію навколо загального штучного інтелекту. Інститут зазначає співзасновника DeepMind Шейна Легга, керівника Google Джеймса Маніки та голову Google DeepMind Деміса Хассабіса як директорів, а Легг обіймає посаду відповідального редактора. 

Новий інститут прагне висвітлювати розбіжності в поглядах між Google, Google DeepMind і ширшою глобальною дослідницькою спільнотою щодо AGI. «Вони не завжди погоджуватимуться між собою й, імовірно, змінюватимуть свою думку, коли на передовій стрімко мінливого напряму з’являтиметься більше даних та інформації», — йдеться в оголошенні.

Перша збірка з чотирьох есе охоплює низку тем: економічну політику для подолання потенційних потрясінь, спричинених AGI, збереження зрозумілого для людей обґрунтування рішень моделей, принципи людського процвітання та структуру оцінювання передових моделей ШІ. 

В одному есе дослідники безпеки DeepMind Рохін Шах та Анка Драган стверджують, що звуження вікна прозорості ШІ — можливості побачити й перевірити покрокове обґрунтування рішення моделі — не є неминучим. Оскільки нові архітектури роблять найпотужніші моделі складнішими для моніторингу, автори кажуть, що розробники й регулятори мають безпосередньо розглянути компроміси у сфері безпеки. Це може означати обмеження «непрозорої послідовної глибини» — обсягу послідовних обчислень, які модель може виконувати без створення зрозумілого для читання ланцюжка міркувань, — або вимогу до розробників довести, що менш прозорі системи залишаються так само придатними для моніторингу.

В іншому есе Хассабіс пропонує створити очолюваний США орган зі стандартів для передового ШІ, який оцінюватиме найрозвиненіші моделі ШІ. Згідно з його структурою, розробники спочатку добровільно подаватимуть моделі на перевірку не пізніше ніж за 30 днів до випуску. Після того як система оцінювання доведе свою ефективність, проходження її тестів може стати вимогою для розгортання передових моделей у Сполучених Штатах.

Спочатку орган розроблятиме оцінювання в консультаціях із компаніями, що працюють у сфері ШІ, але зрештою створить незалежні нерозголошувані оцінювання — так звані «відкладені» тести, як їх називає есе, — щоб запобігти адаптації лабораторіями своїх моделей до відомих методик оцінювання. Хассабіс заявив, що структуру можна буде «посилювати, якщо серйозність ситуації вимагатиме цього», що потенційно може включати скоординоване уповільнення розробки серед творців передового ШІ. 

Есе з’явилися на тлі того, як дискусія про безпеку в індустрії зміщується від загальних заяв про занепокоєння до конкретних пропозицій щодо розкриття інформації, зовнішнього контролю та, якщо запобіжні заходи відставатимуть, скоординованого уповільнення. Цей зсув прискорився цього тижня, коли лідери індустрії підтримали окремі елементи заклику генерального директора Anthropic Даріо Амодея «підтримувати належний темп» розробки передового ШІ.