Google DeepMind запускает институт для расширения дискуссии об AGI

Исследователи Google и Google DeepMind в среду запустили Институт DeepMind, чтобы продвигать дискуссию вокруг общего искусственного интеллекта. В качестве директоров институт указывает сооснователя DeepMind Шейна Легга, руководителя Google Джеймса Маники и председателя Google DeepMind Демиса Хассабиса, а Легг исполняет обязанности выпускающего редактора. 

Новый институт призван выявлять различия во взглядах Google, Google DeepMind и более широкого мирового исследовательского сообщества на ОИИ. «Они не всегда будут соглашаться друг с другом и, вероятно, будут менять свое мнение по мере поступления новых данных и информации на быстро развивающемся переднем крае исследований», — говорится в заявлении.

В первый сборник из четырех эссе вошли материалы на самые разные темы: экономическая политика для управления потенциальными потрясениями, которые может вызвать ОИИ, сохранение понятного человеку рассуждения моделей, принципы человеческого благополучия и система оценки передовых моделей ИИ. 

В одном эссе, написанном исследователями безопасности DeepMind Рохином Шахом и Анкой Драган, утверждается, что сокращение окна прозрачности ИИ — возможности видеть и проверять пошаговый ход рассуждений модели — не является неизбежным. По словам авторов, по мере того как новые архитектуры делают самые мощные модели более сложными для мониторинга, разработчикам и регулирующим органам следует напрямую рассмотреть компромиссы в сфере безопасности. Это может означать ограничение «непрозрачной последовательной глубины» — объема последовательных вычислений, которые модель может выполнять без создания понятного следа рассуждений, — или требование к разработчикам доказывать, что менее прозрачные системы остаются столь же пригодными для мониторинга.

В другом эссе Хассабис предлагает создать под эгидой США орган по стандартизации передового ИИ для оценки наиболее совершенных моделей ИИ. Согласно его системе, разработчики первоначально будут добровольно предоставлять модели на проверку не позднее чем за 30 дней до выпуска. После того как система оценки докажет свою эффективность, прохождение ее тестов может стать обязательным условием для развертывания передовых моделей в США.

Поначалу этот орган будет разрабатывать оценки в консультации с компаниями, занимающимися ИИ, но со временем создаст независимые закрытые оценки — так называемые «отложенные» тесты, — чтобы не позволить лабораториям адаптировать свои модели под известные оценки. Хассабис заявил, что систему можно будет «ужесточать, если серьезность ситуации потребует этого», что потенциально может включать скоординированное замедление работы разработчиков передового ИИ. 

Эссе появились в момент, когда дискуссия о безопасности в отрасли смещается от общих заявлений о беспокойстве к конкретным предложениям по раскрытию информации, внешнему контролю и, если меры защиты будут отставать, скоординированному замедлению. На этой неделе этот сдвиг ускорился после того, как лидеры отрасли поддержали элементы призыва генерального директора Anthropic Дарио Амодеи «синхронизировать темпы» развития передового ИИ.