О, чудово — схоже, це черговий рій неконтрольованих ШІ-агентів OpenAI
The Verge·1 хв читання
Поведінка OpenAI — як щодо того, чи стався інцидент, так і, якщо так, щодо того, чи вирішила компанія замовчати його, — перебуватиме під пильним наглядом. Якщо цей рій справді походив від OpenAI, це неминуче посилить занепокоєння тим, що обізнаність компанії та її мовчання збіглися з її запевненнями регуляторів, законодавців і технологічної індустрії в тому, що після злому Hugging Face вона серйозно ставиться до безпеки. Попри те, що компанія дозволила трьом зовнішнім дослідникам із METR і Redwood Research оцінити інцидент, який був значно серйознішим, ніж вважалося спочатку, у колах фахівців із безпеки ШІ її широко критикували за те, що вона погодилася на це лише на суворих умовах, через які кілька важливих аспектів залишилися «за межами дослідження». Компанія також готувалася до запуску GPT-6 Astra, який, побоюються дослідники, може бути небезпечно складно контролювати.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.
