Оценка открива непълен вътрешен контрол в AI лабораториите
Първата оценка на неправителствената организация Guidelight заключава, че нито една от големите AI компании не прилага изцяло набор от основни мерки за контрол на собствените си вътрешни AI системи. Проучването обхваща Anthropic, OpenAI, Google, xAI и Meta и използва само публични материали, сред които системни карти, доклади за безопасност и публикации в блогове.
Guidelight проверява шест практики. Те включват регистриране на действията на вътрешните AI системи, преглед преди извършване на рискови действия, аварийно изключване, наречено „circuit breaking“, и планове за ограничаване на модели, които се отклоняват от зададеното поведение. Според организацията нито една компания не покрива предложените от нея стандарти за безопасност.
Anthropic и OpenAI получават най-високата оценка — C+. Google е с D+ и подробна пътна карта. xAI получава D−, а Meta е на последно място с F. Оценката посочва, че компаниите се справят по-добре с откриването на проблемно поведение, отколкото с предотвратяването и ограничаването му. Guidelight е независима организация, основана от бившите ръководители по безопасността в OpenAI Page Hedley и Steven Adler.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.