OpenAI заяви, че „забавя темпото на разработването на модели“, тъй като рисковете за киберсигурността на ИИ стават твърде опасни

OpenAI казва, че „забавя разработването на модели“, отчасти защото предстоящият модел „Astra“ може да е близо до придобиването на критични способности за кибератаки. Компанията спря обучението с подсилване за две седмици, нейният „най-голям планиран RL цикъл на обучение на граничен модел“ остава на пауза, а работните натоварвания, които не отговарят на новите изисквания за сигурност, са спрени. Инцидентът със сигурността в Hugging Face и „бързият напредък във вътрешните ни изследвания“ също са подтикнали към забавянето.

Оттогава OpenAI казва, че изследователските среди са подсилени с по-добра мрежова изолация и по-строги пясъчници. Нова система за наблюдение изпраща сигнал в рамките на 30 минути след откриване на подозрително поведение, като използва приблизително 20 процента от изчислителния ресурс за контролирано извеждане в зависимост от работното натоварване.

Компанията планира да разшири своята Рамка за готовност и да инвестира повече в изследвания на съгласуването. Въпреки това тя разпусна екипа, създал тази рамка, като прехвърли отговорностите на други екипи.

Критиците вероятно ще продължат да обвиняват OpenAI в раздухване на страхове, за да спечели време и внимание. Независимата правителствена агенция AISI е документирала подобно вредно поведение на модел, което придава известна тежест на твърденията на OpenAI.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно публикуван доклад за водещите модели „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.