Паника вокруг безопасности ИИ выходит в мейнстрим после того, как предупреждения исследователя Anthropic прозвучали на CNN и Fox News

Идея о том, что ИИ может уничтожить человечество, официально вышла в мейнстрим. Предупреждения уходящего исследователя Anthropic Джейкоба Коксона об ИИ, способном самостоятельно совершенствоваться и представляющем экзистенциальную угрозу, вызвали достаточно большой резонанс, чтобы привести его на CNN и Fox News. Несколько американских политиков подхватили эту тему в социальных сетях, а Джо Роган посвятил безопасности ИИ целый выпуск.

Другие исследователи безопасности из Anthropic и OpenAI поддержали взгляды Коксона. Пол Кристиано предупредил, что без более эффективного надзора человечество может навсегда потерять контроль над сверхразумом. Кристиано недавно вошел в совет директоров фонда OpenAI и его комитет по безопасности и защите, который контролирует практики компании в сфере безопасности, хотя и не имеет права голоса.

Если это вызывает у вас тревогу, не паникуйте. За этими предупреждениями стоят многочисленные культурные и финансовые интересы. Это не значит, что все опасения по поводу безопасности лишены смысла, что показали вышедшие из-под контроля хакерские агенты OpenAI и Anthropic. Но полный сценарий вымирания остается крайней и спорной позицией. Также неясно, может ли из современных технологий вообще возникнуть нечто похожее на сверхразумный ИИ. Так что это может быть массовым психозом Кремниевой долины. А может, и нет — и тогда удачи.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный передовой отчет «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.