Sakhanda Wire
NVDA $153.78 -1.51% MSFT $504.71 -2.56% GOOGL $279.10 -1.63% META $617.85 -1.37% AMZN $256.64 -0.43%
← До новин

OpenAI сповільнює розроблення моделей через кіберризики

OpenAI заявила, що навмисно сповільнює розроблення моделей, оскільки внутрішні дослідження свідчать: майбутня модель «Astra» може наближатися до можливостей, здатних уможливити серйозні кібератаки. Компанія на два тижні призупинила навчання з підкріпленням, залишила на паузі свій найбільший запланований frontier RL run і зупинила робочі навантаження, які не відповідають новим вимогам безпеки. Серед причин уповільнення OpenAI також називає інцидент із безпекою в Hugging Face та швидкий прогрес власних досліджень.

За даними компанії, дослідницькі середовища посилили кращою ізоляцією мереж і суворішими обмеженнями в пісочницях. Нова система моніторингу має повідомляти про підозрілу поведінку протягом 30 хвилин після її виявлення. Залежно від робочого навантаження вона використовує близько 20% обчислювальних ресурсів supervised inference.

OpenAI планує розширити Preparedness Framework і збільшити інвестиції в дослідження alignment. Водночас команду, яка працювала над цією рамкою, розформували, а її обов’язки передали іншим підрозділам. Критики, ймовірно, звинувачуватимуть компанію в прагненні виграти час і привернути увагу. Незалежне державне агентство AISI задокументувало подібну шкідливу поведінку моделей, що частково підкріплює заяви OpenAI.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини