OpenAI, Anthropic и Google уже несколько недель обсуждают безопасность ИИ

Крис Лехан, глобальный руководитель OpenAI по вопросам политики, сообщил журналистам во вторник, что компания уже несколько недель работает с конкурентами Anthropic и Google DeepMind над обеспечением безопасности ИИ, как впервые сообщило Bloomberg. Как сообщается, Лехан находится в Вашингтоне, где работает с законодателями США над решением проблем, связанных с катастрофическими рисками ИИ.

Это стало известно после эссе генерального директора Anthropic Дарио Амодеи, опубликованного в субботу. В нем он призвал отрасль объединиться, чтобы замедлить темпы развития передового ИИ и избежать катастрофических рисков. Лидеры ИИ-индустрии, включая Сэма Альтмана из OpenAI, Демиса Хассабиса из Google и Илона Маска из SpaceXAI, поддержали письмо Амодеи и его призыв к действию. Альтман заявил, что OpenAI присоединится к Anthropologic, внедрив в компанию сторонних оценщиков для мониторинга безопасности. 

Во вторник Лехан признал, что три компании на протяжении нескольких недель обсуждают вопросы безопасности ИИ. Некоторые, включая Альтмана, отмечали, что такие переговоры могут поставить компании под угрозу нарушения антимонопольного законодательства, если координация будет расценена как ограничение конкуренции. В эссе Амодеи предлагалось предоставить узкое правительственное исключение, разрешающее такую координацию в целях безопасности, однако, как сообщается, Лехан заявил, что фирмам оно не нужно. 

Эта новость подтверждает предыдущие сообщения и указывает на то, что компании работали вместе. В интервью с Fortune в конце прошлой недели Альтман намекнул, что вел закрытые переговоры с другими лидерами ИИ-индустрии. На этой неделе The Information сообщило, что три компании совместно работают над созданием органа стандартизации для ИИ-индустрии — по словам Альтмана, он якобы сообщил сотрудникам, что это должно произойти без поддержки правительства США. 

В июле Хассабис призвал США создать новый орган стандартизации, который выполнял бы функции надзорного органа в сфере ИИ, имел полномочия проверять самые передовые модели в мире и координировать замедление развития отрасли в целом в случае усиления рисков. 

Президент Трамп, со своей стороны, назвал опасения по поводу безопасности обманом и выступил против необходимости ужесточения регулирования, заявив, что любое замедление даст Китаю преимущество в гонке. Его главный советник по вопросам ИИ Дэвид Сакс — давний инвестор, имеющий личную заинтересованность в значительной части отрасли, — поддержал эту позицию, заявив, что опасения по поводу экзистенциального риска, связанного с ИИ, преувеличены.

На той же встрече во вторник Лехан заявил, что OpenAI поддерживает положение закона FRONTIER Act, которое обяжет ведущие лаборатории, занимающиеся передовыми разработками, допускать в свои компании «организации независимой проверки», чтобы обеспечить безопасную разработку моделей.

TechCrunch обратился к Anthropic, Google и OpenAI за комментариями.