Sakhanda Wire
NVDA $153.78 -1.51% MSFT $504.71 -2.56% GOOGL $279.10 -1.63% META $617.85 -1.37% AMZN $256.64 -0.43%
← К новостям

OpenAI замедляет разработку моделей из-за киберрисков

OpenAI заявила, что намеренно замедляет разработку моделей, поскольку внутренние исследования показывают: будущая модель «Astra» может приближаться к возможностям, позволяющим проводить серьезные кибератаки. Компания на две недели остановила обучение с подкреплением, оставила без запуска свой крупнейший запланированный frontier RL run и приостановила рабочие нагрузки, не соответствующие новым требованиям безопасности. Среди причин замедления OpenAI также называет инцидент с безопасностью в Hugging Face и быстрый прогресс собственных исследований.

По словам компании, исследовательская инфраструктура теперь защищена лучше: усилены изоляция сетей и ограничения в песочницах. Новая система мониторинга должна выдавать предупреждение в течение 30 минут после обнаружения подозрительного поведения. В зависимости от рабочей нагрузки она использует примерно 20% вычислительных ресурсов supervised inference.

OpenAI намерена расширить Preparedness Framework и увеличить инвестиции в исследования alignment. При этом команда, занимавшаяся этой рамкой, была расформирована, а ее обязанности передали другим подразделениям. Критики, вероятно, будут обвинять компанию в попытке выиграть время и привлечь внимание. Независимое государственное агентство AISI ранее документировало сходное вредное поведение моделей, что частично поддерживает заявления OpenAI.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости