Google DeepMind създава институт за разширяване на дебата за AGI

Изследователи от Google и Google DeepMind стартираха в сряда Института DeepMind, за да насърчат разговора около изкуствения общ интелект. Институтът посочва като директори съоснователя на DeepMind Шейн Лег, ръководителя на Google Джеймс Маника и председателя на Google DeepMind Демис Хасабис, като Лег изпълнява ролята на главен редактор. 

Новият институт има за цел да представи различията в гледните точки между Google, Google DeepMind и по-широката световна изследователска общност по въпросите на AGI. „Те не винаги ще са съгласни и вероятно ще променят мнението си, когато на бързо развиващия се фронт излязат наяве повече данни и информация“, се казва в съобщението.

Първоначалната колекция от четири есета обхваща широк спектър от теми: икономически политики за управление на потенциалните сътресения, предизвикани от AGI, запазване на разбираемите за хората разсъждения на моделите, принципи за човешки просперитет и рамка за оценяване на водещите модели с изкуствен интелект. 

В едно есе изследователите по безопасността в DeepMind Рохин Шах и Анка Драган твърдят, че стесняващият се прозорец на прозрачност при ИИ — възможността да се види и провери поетапното разсъждение на даден модел — не е неизбежен. Тъй като новите архитектури правят най-мощните модели по-трудни за наблюдение, авторите казват, че разработчиците и регулаторите трябва пряко да се изправят пред компромисите по отношение на безопасността. Това може да означава ограничаване на „непрозрачната серийна дълбочина“ — количеството последователни изчисления, които моделът може да извършва, без да създава разбираема следа на разсъждение — или изискване към разработчиците да докажат, че по-малко прозрачните системи остават също толкова наблюдаеми.

В друго есе Хасабис предлага ръководен от САЩ орган за стандарти за водещите системи с ИИ, който да оценява най-напредналите модели с изкуствен интелект. Според неговата рамка разработчиците първоначално доброволно ще предоставят моделите си за преглед до 30 дни преди пускането им. След като системата за оценяване докаже ефективността си, преминаването на нейните тестове може да стане изискване за внедряване на водещи модели в Съединените щати.

Първоначално органът ще разработва оценките в консултация с компании от сектора на ИИ, но в крайна сметка ще създаде независими, непублични оценки — наречени в есето тестове „със скрити данни“ — за да попречи на лабораториите да настройват моделите си спрямо известни оценки. Хасабис заяви, че рамката може да бъде „затегната, ако сериозността на ситуацията го изисква“, което потенциално би включвало координирано забавяне сред разработчиците на водещи системи с ИИ. 

Есетата излизат в момент, когато дебатът за безопасността в сектора се измества от общи изявления на загриженост към конкретни предложения за разкриване на информация, външен контрол и, ако мерките за безопасност изостанат, координирано забавяне. Тази промяна се ускори през тази седмица, когато лидерите в сектора подкрепиха елементи от призива на изпълнителния директор на Anthropic Дарио Амодей за „постепенно темпиране“ на разработването на водещи системи с ИИ.