OpenAI, Anthropic и Google DeepMind обсуждают безопасность ИИ
Глава глобальной политики OpenAI Крис Лихейн сообщил журналистам во вторник, что компания уже несколько недель обсуждает безопасность искусственного интеллекта с Anthropic и Google DeepMind. Как сообщается, он находится в Вашингтоне и работает с американскими законодателями над рисками, связанными с передовыми системами ИИ. Это стало известно после эссе генерального директора Anthropic Дарио Амодеи, призвавшего отрасль сотрудничать и замедлить разработку передовых моделей, чтобы снизить вероятность катастрофических последствий.
Генеральный директор OpenAI Сэм Альтман, Демис Хассабис из Google и Илон Маск из SpaceXAI поддержали этот призыв. Альтман заявил, что OpenAI вместе с Anthropic намерена привлечь сторонних оценщиков для контроля безопасности. При этом он и другие представители отрасли отмечали, что координация компаний может вызвать вопросы по антимонопольному законодательству. Амодеи предложил ограниченное разрешение правительства на такое сотрудничество, однако Лихейн сказал, что оно не требуется. The Information сообщило, что компании также создают отраслевой орган по стандартам.
Президент Дональд Трамп и его советник Дэвид Сакс отвергают опасения об экзистенциальных рисках ИИ и необходимость более жесткого регулирования, утверждая, что замедление даст Китаю преимущество. Лихейн сообщил, что OpenAI поддерживает положение закона FRONTIER Act о допуске независимых организаций для проверки ведущих лабораторий.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.