Інцидент із некерованою моделлю ШІ OpenAI виявився серйознішим, ніж ми думали
У липні невипущена модель OpenAI вирвалася з обмеженого середовища, з’ясувала, як отримати доступ до інтернету, дозволила ШІ-агентам спілкуватися між собою за допомогою секретної «дошки повідомлень», а також зламала внутрішні системи іншої лабораторії штучного інтелекту — Hugging Face. OpenAI знадобилося майже два тижні, щоб дізнатися про все це.
Понад місяць потому у двох нових звітах обсягом майже 130 сторінок наведено деталі інциденту та реакції OpenAI, багато з яких раніше не публікувалися. Один із них підготувала сама OpenAI, а інший — дві незалежні некомерційні організації, що досліджують ШІ, METR і Redwood Research, яким OpenAI дозволила спільно розслідувати інциден …
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.