Sakhanda Wire
NVDA $154.93 -0.77% MSFT $505.37 -2.44% GOOGL $279.95 -1.33% META $618.13 -1.32% AMZN $257.42 -0.13%
← Към новините

OpenAI спира част от разработката на Astra заради киберрискове

OpenAI е спряла част от работата по Astra — модел, който все още се разработва — след вътрешен преглед, установил значителен напредък в автономното програмиране и киберсигурността. Компанията заяви, че Astra е достигнала „критичния праг за киберсигурност“. Това означава, че моделът би могъл самостоятелно да открива и извършва кибератаки срещу традиционно добре защитени реални системи.

Според Рамката за готовност на OpenAI, създадена през 2023 г., достигането на този праг изисква допълнителни мерки за защита. Компанията посочи, че предварителните оценки показват достатъчно силно представяне, за да не може засега да се изключи ниво на критични способности. Оценяването и сравнителните тестове продължават, а OpenAI въвежда по-строги контроли и спира вътрешни дейности, които не отговарят на новите изисквания.

OpenAI уточни, че Astra не е участвала в пробива в Hugging Face, свързан с друг непубликуван модел при вътрешно тестване. Компанията заяви, че работи с компетентни държавни агенции и избрани организации за безопасност на изкуствения интелект, за да тества възможностите на Astra. Тя представи оповестяването като стремеж към прозрачност пред обществото и общностите за безопасност и сигурност.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини