Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← К новостям

Google DeepMind запустила институт для расширения дискуссии об AGI

Исследователи Google и Google DeepMind запустили DeepMind Institute — инициативу для развития обсуждения искусственного общего интеллекта, или AGI. В число директоров вошли сооснователь DeepMind Шейн Легг, руководитель Google Джеймс Манайка и председатель Google DeepMind Демис Хассабис. Легг будет главным редактором.

Институт намерен представлять разные взгляды Google, Google DeepMind и международного исследовательского сообщества. В его первой подборке опубликованы четыре эссе: об экономической политике на случай возможных последствий AGI, сохранении понятных человеку рассуждений моделей, принципах человеческого благополучия и оценке передовых AI-моделей. В объявлении говорится, что авторы не всегда будут соглашаться друг с другом и могут менять позиции по мере появления новых данных.

Исследователи безопасности Рохин Шах и Анка Драган утверждают, что сокращение прозрачности моделей не является неизбежным. Среди обсуждаемых мер — ограничение «непрозрачной последовательной глубины» либо требование доказывать, что менее прозрачные системы по-прежнему можно контролировать. Хассабис предложил орган стандартов под руководством США. Сначала разработчики могли бы добровольно подавать модели на проверку не позднее чем за 30 дней до выпуска. Впоследствии успешное прохождение тестов могло бы стать условием развертывания, а проверки — независимыми и скрытыми от разработчиков.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости