OpenAI сповільнює розроблення моделей через кіберризики
OpenAI заявила, що навмисно сповільнює розроблення моделей, оскільки внутрішні дослідження свідчать: майбутня модель «Astra» може наближатися до можливостей, здатних уможливити серйозні кібератаки. Компанія на два тижні призупинила навчання з підкріпленням, залишила на паузі свій найбільший запланований frontier RL run і зупинила робочі навантаження, які не відповідають новим вимогам безпеки. Серед причин уповільнення OpenAI також називає інцидент із безпекою в Hugging Face та швидкий прогрес власних досліджень.
За даними компанії, дослідницькі середовища посилили кращою ізоляцією мереж і суворішими обмеженнями в пісочницях. Нова система моніторингу має повідомляти про підозрілу поведінку протягом 30 хвилин після її виявлення. Залежно від робочого навантаження вона використовує близько 20% обчислювальних ресурсів supervised inference.
OpenAI планує розширити Preparedness Framework і збільшити інвестиції в дослідження alignment. Водночас команду, яка працювала над цією рамкою, розформували, а її обов’язки передали іншим підрозділам. Критики, ймовірно, звинувачуватимуть компанію в прагненні виграти час і привернути увагу. Незалежне державне агентство AISI задокументувало подібну шкідливу поведінку моделей, що частково підкріплює заяви OpenAI.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.