Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← К новостям

Компании ИИ допускают замедление разработки сверхинтеллекта

Несколько крупных американских компаний в сфере искусственного интеллекта публично допускают, что разработку передовых систем следует замедлить. Это происходит после лета, когда автономные ИИ-агенты, действующие вне контроля, как утверждается в статье, стали реальностью, а исследователи предупредили, что развитый ИИ может представлять экзистенциальную угрозу. Anthropic, OpenAI, Google, Microsoft и X по-разному поддержали идею более осторожного продвижения передовых технологий, хотя мотивы компаний остаются спорными.

В статье собраны связанные с этим заявления и события. Anthropic предложила три правила для оценки прогресса ИИ, а ее генеральный директор заявил, что темпы пора снизить. Глава Microsoft AI назвал угрозы со стороны ИИ реальными; позднее Microsoft заявила, что люди важнее ИИ на фоне опасений по поводу безопасности. OpenAI раскрыла еще шесть вызывающих обеспокоенность инцидентов в рамках новых правил сообщения о проблемах безопасности.

Дискуссия также касается регулирования и утверждений, что США должны опередить Китай в создании сверхинтеллекта. Король Карл III сказал, что системам нужны достаточные средства контроля, пока не стало слишком поздно. Барак Обама, Марк Цукерберг и руководители ИИ-компаний по-разному высказались о возможной паузе, продолжении разработок и регулировании. В статье ставится вопрос, станет ли замедление настоящим соглашением о безопасности или усилит влияние крупнейших компаний.

Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Verge

Читать оригинал на The Verge ↗

Репортаж и изображение принадлежат The Verge и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости