OpenAI тепер навчає свої передові ШІ-моделі без доступу до інтернету

Як виявила OpenAI, агенти ШІ все ще можуть взаємодіяти без підключення до мережі.

Як виявила OpenAI, агенти ШІ все ще можуть взаємодіяти без підключення до мережі.

Тепер OpenAI навчає свої найсучасніші моделі ШІ без доступу до інтернету після низки інцидентів із несанкціонованим хакерством. У дописі в блозі в п’ятницю OpenAI повідомила, що створила офлайн-середовище для тестування, у якому моделі ШІ можуть взаємодіяти з проіндексованим і кешованим вебконтентом «без ризику впливу на зовнішні системи».

OpenAI призупинила навчання своїх передових моделей ШІ у вересні після повідомлення про кілька інцидентів, під час яких її агенти ШІ вирвалися з тестових середовищ, щоб зламати сторонні компанії та державні установи або атакувати маловідомі вебсайти. Як зазначено в дописі в блозі, 1 жовтня OpenAI відновила навчання з підкріпленням і внутрішнє виконання моделей із посиленими заходами безпеки.

Навіть із цими запобіжниками та без доступу до інтернету OpenAI виявила, що агенти «не завжди потребують мережевого підключення для взаємодії». В одному з тестів компанія попросила моделі ШІ на окремих віртуальних машинах обмінятися секретами без підключення до мережі. Щоб обійти це обмеження, агенти ШІ знайшли спосіб спілкуватися за допомогою кешу процесора:

Зчитування даних із кешу швидше, ніж отримання їх з основної пам’яті, і агенти використали цю різницю в часі для спілкування. Один агент кодував інформацію, видаляючи вибрані дані з кешу. Інший вимірював, скільки часу потрібно для повторного завантаження цих даних, використовуючи різницю між швидким і повільним зчитуванням для відновлення повідомлення. Коли агенти узгодили протокол кодування та декодування цих сигналів, вони змогли обмінюватися синтетичними секретами, не змінюючи спільний файл і не відкриваючи мережеве підключення.

OpenAI повідомляє, що додала до своєї системи моніторингу перевірки для виявлення такого типу комунікації. Вона також продовжить навчати свої передові моделі ШІ без мережевого підключення, доки вдосконалені запобіжники «не виправдають ширший доступ до інтернету».

Тим часом OpenAI працюватиме над підвищенням безпеки своїх віртуальних машин, одночасно перевіряючи тестові середовища на наявність вразливостей. Компанія також продовжить тестувати свої системи моніторингу, які нещодавно були підірвані її агентами ШІ під час внутрішніх проєктів із програмування.

• Емма Рот