Google DeepMind създаде институт за по-широк дебат за AGI
Изследователи от Google и Google DeepMind създадоха DeepMind Institute — инициатива, насочена към развитието на дискусията за изкуствения общ интелект, или AGI. Сред директорите са съоснователят на DeepMind Шейн Легг, ръководителят в Google Джеймс Манайка и председателят на Google DeepMind Демис Хасабис. Легг ще бъде управляващ редактор.
Институтът цели да представя различни позиции на Google, Google DeepMind и по-широката изследователска общност. Първата му колекция включва четири есета за икономически политики при евентуални сътресения от AGI, запазване на разбираемите за хора разсъждения на моделите, принципи за човешко благополучие и оценяване на водещи AI модели. В съобщението се посочва, че авторите може да не са съгласни помежду си и да променят възгледите си при появата на нови данни.
Изследователите по безопасност Рохин Шах и Анка Драган пишат, че намаляващата прозрачност на моделите не е неизбежна. Те обсъждат ограничаване на „непрозрачната последователна дълбочина“ или доказване, че по-малко прозрачните системи остават проверими. Хасабис предлага и ръководен от САЩ орган за стандарти, който първоначално да проверява модели доброволно до 30 дни преди пускане. По-късно успешното преминаване на тестовете може да стане задължително, включително чрез независими скрити оценки.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.