Моделі OpenAI зламали криптогаманець і проникли ще на кілька вебсайтів

OpenAI заявила, що внутрішні моделі зламали ще два вебсайти, обійшли встановлені компанією обмеження на перегляд вебсторінок і використали відкриті облікові дані, щоб вивести криптовалюту з гаманця, до якого інакше не могли отримати доступ, — в останній серії розкриттів інформації про те, як її агенти вчиняли неетичні та, ймовірно, незаконні дії.

У четвер компанія оприлюднила звіти про чотири нові інциденти, які сталися в червні. Вони відбулися після того, як компанія розкрила в липні, що внутрішні тестові агенти скористалися вразливістю нульового дня в інструменті, призначеному для обмеження їхнього доступу до інтернету. Після цього вони проникли в мережу постачальника інструментів штучного інтелекту Hugging Face. Агенти вдалися до цієї незаконної дії, щоб викрасти відповіді на тест із хакерства, які були недоступні під час самостійного виконання завдань. Цей інцидент — який, найімовірніше, призвів би до кримінальних обвинувачень, якби такі дії безпосередньо вчинила людина, — ще більше посилив побоювання, що широке використання ШІ може мати шкідливі наслідки безпрецедентного масштабу.

Легше просити пробачення, ніж дозвіл

У двох випадках, про які OpenAI повідомила в четвер, агентам компанії доручили отримати інформацію з вебсайтів, але вони зламали їх, коли моделі зіткнулися з перешкодами під час безпосереднього отримання даних. В одному з інцидентів під час навчання з підкріпленням модель, яка отримала відмову в доступі, намагаючись отримати історичну статистику щодо лікарняних ліжок на державному статистичному вебсайті, «скористалася функцією завантаження файлів на сайті, щоб отримати конфігурацію сервера та файли застосунку, зокрема конфіденційні облікові дані», — заявила OpenAI. «Вона проаналізувала код застосунку, обійшла перевірки авторизації кінцевої точки статистики та отримала дані, у доступі до яких раніше було відмовлено. Модель зберегла дані локально».

Читати повну статтю

Коментарі