Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← Към новините

OpenAI обяви по-строги защити при разработването на модели

OpenAI обяви нови политики за сигурност, насочени към ограничаване на инциденти по време на тестването на модели с изкуствен интелект. Те предвиждат по-подробно наблюдение в процеса на разработка и по-силен акцент върху съгласуването и сигурността след обучението. Компанията заяви, че с повишаването на възможностите на моделите нарастват и рисковете при вътрешната им разработка и проверка.

Промените са сред първите публични обновявания на практиките за безопасност на OpenAI след инцидента с Hugging Face, разкрит на 26 юли. От OpenAI подчертаха, че политиките не са пряка реакция на събитието, но са били повлияни и от очакваните способности за киберсигурност на предстоящия модел Astra, както и от бързия напредък в областта. Компанията е спряла обучението с reinforcement learning за две седмици след инцидента, а впоследствие е възобновила работата по много от по-малко рисковите модели. Най-големият планиран frontier RL run остава преустановен.

Новите мерки включват по-силна изолация на мрежите и система, която ще проверява действията на инструментите, наличните следи от разсъждения и регистрационните файлове за неразрешено поведение. OpenAI цели сигналите да се изпращат до 30 минути и оценява изчислителното натоварване на наблюдението на около 20% от наблюдавания процес. Допълнителни подробности и официален анализ на инцидента все още не са публикувани.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини