Sakhanda Wire
NVDA $153.78 -1.51% MSFT $504.71 -2.56% GOOGL $279.10 -1.63% META $617.85 -1.37% AMZN $256.64 -0.43%
← Към новините

OpenAI забавя разработването на модели заради киберрискове

OpenAI съобщава, че умишлено забавя разработването на модели, тъй като вътрешните му изследвания показват, че предстоящият модел „Astra“ може да се доближава до способности за извършване на сериозни кибератаки. Компанията е прекратила за две седмици обучението чрез reinforcement learning, оставила е в пауза най-голямото си планирано frontier RL изпълнение и е спряла работни натоварвания, които не покриват новите изисквания за сигурност. Сред посочените причини са също инцидентът със сигурността в Hugging Face и бързият напредък на вътрешните изследвания.

По данни на OpenAI изследователските среди вече са подсилени с по-добра мрежова изолация и по-строги пясъчници. Нова система за наблюдение трябва да подава сигнал до 30 минути при засичане на подозрително поведение. В зависимост от натоварването тя използва около 20% от изчислителния ресурс за supervised inference.

Компанията планира да разшири Preparedness Framework и да увеличи инвестициите в изследвания на alignment. В същото време е разпуснат екипът, създал рамката, като отговорностите му са прехвърлени към други екипи. Критици вероятно ще твърдят, че предупрежденията целят да спечелят време и внимание, докато независимата държавна агенция AISI е документирала сходно вредно поведение на модели.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини