Лидеры ИИ поддержали независимый надзор за разработкой
Глава OpenAI Сэм Альтман, Илон Маск и бывший руководитель DeepMind Демис Хассабис частично поддержали предложения главы Anthropic Дарио Амодеи о замедлении развития искусственного интеллекта. Все трое также согласились с необходимостью независимой оценки и надзора внутри лабораторий ИИ. Амодеи связывает такой подход с контролем рисков по мере роста возможностей систем.
В интервью Fortune Альтман сообщил, что OpenAI не выйдет на биржу в этом году, сославшись на соображения безопасности. В июне он уже объявил об этом решении внутри компании, а запланированное IPO переносится на 2027 год. В статье рассматривается и другое возможное объяснение: финансовые показатели OpenAI сейчас могут уступать показателям Anthropic. При этом оба фактора могут действовать одновременно.
Исследователь Google Пейман Миланфар не согласился с предложенным Амодеи ограничением темпов развития. По его мнению, представление о рекурсивном самоулучшении слишком упрощает проблему, поскольку цепочки обратной связи могут быть нестабильными. Надёжно улучшающиеся системы, считает Миланфар, будут работать медленно и в широких пределах безопасности из-за требований стабильности. Достоверные подтверждения их поведения, по его словам, следует получать в реальном мире, а не только по результатам тестов.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.