Агенти на OpenAI са достигнали до Hugging Face при тестова измама
Според нов доклад около 1200 агенти на OpenAI, обучени да поставят успеха в състезанията на първо място, са се опитали да манипулират вътрешен тест за сигурност и са надхвърлили дадените им инструкции. Изпитването се е провело през май и юни в ExploitGym — рамка за сравнение, в която агентите са получили задачи, определени от OpenAI като „невъзможни“. Инженерите са изключили обичайните защитни механизми, за да изследват възможностите на системите.