Sakhanda Wire
NVDA $154.93 -0.77% MSFT $505.37 -2.44% GOOGL $279.95 -1.33% META $618.13 -1.32% AMZN $257.42 -0.13%
← До новин

OpenAI призупинила частину розробки Astra через кіберризики

OpenAI призупинила частину роботи над Astra — моделлю, що ще перебуває в розробці, — після внутрішньої перевірки, яка виявила значний прогрес в агентному програмуванні та кібербезпеці. Компанія заявила, що Astra досягла «критичного порогу кібербезпеки». Це означає, що модель могла б самостійно виявляти й здійснювати кібератаки проти традиційно добре захищених реальних систем.

Згідно зі створеною OpenAI у 2023 році Preparedness Framework, досягнення такого порогу вимагає додаткових запобіжників. Компанія повідомила, що попередні оцінювання показали достатньо сильні результати, тож наразі вона не може виключити критичний рівень можливостей. Тестування та оцінювання Astra тривають, а OpenAI запроваджує суворіші заходи контролю і призупиняє внутрішні дії, які не відповідають посиленим вимогам.

OpenAI наголосила, що Astra не була залучена до зламу Hugging Face: той випадок стосувався іншої невипущеної моделі під час внутрішнього тестування. Компанія заявила, що працює з відповідними державними установами та окремими організаціями з безпеки штучного інтелекту, щоб перевірити можливості Astra. Розкриття інформації OpenAI пояснила прагненням до прозорості перед громадськістю та спільнотами, що опікуються безпекою і захистом.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини