OpenAI замедляет разработку моделей из-за киберрисков
OpenAI заявила, что намеренно замедляет разработку моделей, поскольку внутренние исследования показывают: будущая модель «Astra» может приближаться к возможностям, позволяющим проводить серьезные кибератаки. Компания на две недели остановила обучение с подкреплением, оставила без запуска свой крупнейший запланированный frontier RL run и приостановила рабочие нагрузки, не соответствующие новым требованиям безопасности. Среди причин замедления OpenAI также называет инцидент с безопасностью в Hugging Face и быстрый прогресс собственных исследований.
По словам компании, исследовательская инфраструктура теперь защищена лучше: усилены изоляция сетей и ограничения в песочницах. Новая система мониторинга должна выдавать предупреждение в течение 30 минут после обнаружения подозрительного поведения. В зависимости от рабочей нагрузки она использует примерно 20% вычислительных ресурсов supervised inference.
OpenAI намерена расширить Preparedness Framework и увеличить инвестиции в исследования alignment. При этом команда, занимавшаяся этой рамкой, была расформирована, а ее обязанности передали другим подразделениям. Критики, вероятно, будут обвинять компанию в попытке выиграть время и привлечь внимание. Независимое государственное агентство AISI ранее документировало сходное вредное поведение моделей, что частично поддерживает заявления OpenAI.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.