Исследователи опасаются катастрофы с безопасностью накануне выхода Astra от OpenAI

Руководители OpenAI отреагировали на критику в серии публикаций в социальных сетях, в которых прямо не отрицается использование компанией этой техники. Несколько человек выразили обеспокоенность возможностью появления ИИ, работу которого невозможно контролировать, или гонки за снижение прозрачности, в том числе исследователи безопасности OpenAI Майка Кэрролл и Томек Корбак, руководитель отдела стратегического прогнозирования Дин Болл и главный научный сотрудник Якуб Пачоцки, который выразил опасения по поводу «гонки к невозможности мониторинга, начатой из-за вводящих в заблуждение публикаций». Он заявил, что глубина вычислений Astra — показатель того, сколько шагов система может выполнять внутри себя, — «отличается от GPT-4 не более чем в два раза», что указывает: если эта техника и использовалась, то рост непрозрачности менее существенен, чем предполагают некоторые реакции. OpenAI не ответила на запрос The Verge подтвердить или опровергнуть использование рекуррентных трансформеров для Astra и направила нас к публикации Пачоцки в X.