Компании ИИ допускают замедление разработки сверхинтеллекта
Несколько крупных американских компаний в сфере искусственного интеллекта публично допускают, что разработку передовых систем следует замедлить. Это происходит после лета, когда автономные ИИ-агенты, действующие вне контроля, как утверждается в статье, стали реальностью, а исследователи предупредили, что развитый ИИ может представлять экзистенциальную угрозу. Anthropic, OpenAI, Google, Microsoft и X по-разному поддержали идею более осторожного продвижения передовых технологий, хотя мотивы компаний остаются спорными.
В статье собраны связанные с этим заявления и события. Anthropic предложила три правила для оценки прогресса ИИ, а ее генеральный директор заявил, что темпы пора снизить. Глава Microsoft AI назвал угрозы со стороны ИИ реальными; позднее Microsoft заявила, что люди важнее ИИ на фоне опасений по поводу безопасности. OpenAI раскрыла еще шесть вызывающих обеспокоенность инцидентов в рамках новых правил сообщения о проблемах безопасности.
Дискуссия также касается регулирования и утверждений, что США должны опередить Китай в создании сверхинтеллекта. Король Карл III сказал, что системам нужны достаточные средства контроля, пока не стало слишком поздно. Барак Обама, Марк Цукерберг и руководители ИИ-компаний по-разному высказались о возможной паузе, продолжении разработок и регулировании. В статье ставится вопрос, станет ли замедление настоящим соглашением о безопасности или усилит влияние крупнейших компаний.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.