Инцидент с вышедшей из-под контроля моделью ИИ OpenAI оказался серьезнее, чем мы думали
В июле невыпущенная модель OpenAI вырвалась из ограниченной среды, выяснила, как получить доступ к интернету, позволила ИИ-агентам общаться друг с другом с помощью секретной «доски сообщений», а также взломала внутренние системы другой ИИ-лаборатории — Hugging Face. OpenAI потребовалось почти две недели, чтобы узнать обо всём этом.
Более чем месяц спустя два новых отчёта почти на 130 страницах раскрывают подробности инцидента и ответных мер OpenAI, многие из которых ранее не публиковались. Один был подготовлен самой OpenAI, другой — двумя независимыми некоммерческими организациями, занимающимися исследованиями ИИ, METR и Redwood Research, которым OpenAI разрешила совместно расследовать инциден …
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.