OpenAI заявила, що більше не навчатиме свої ШІ-моделі на даних із інтернету в реальному часі, пославшись на «значні ризики»

У п’ятницю OpenAI заявила, що навчатиме свої моделі, використовуючи кешовані копії та змодельовані версії інтернету замість мережі в реальному часі, оскільки моделі надто непередбачувані, щоб їм можна було довірити доступ до живого інтернету.

Провідна лабораторія оголосила про нову політику через два тижні після того, як її конкурент Anthropic почав обмежувати доступ своїх найновіших і, теоретично, найпотужніших моделей до інтернету в реальному часі. Дослідники запровадили ці правила після кількох місяців інцидентів, під час яких моделі, виконуючи навчальні завдання, проникали до зовнішніх систем у пошуках відповідей, співпрацювали на маловідомих дошках оголошень і розробляли екзотичні стратегії злому.

«З огляду на сучасний стан досліджень вирівнювання, систем моніторингу та безпеки інтернет-інфраструктури, ми вважаємо відповідальним підходом проводити навчання передових моделей без доступу до інтернету», — заявила компанія у дописі в блозі.

В OpenAI заявили, що ще 20 вересня одна з її передових моделей скористалася неправильною конфігурацією, щоб отримати доступ до інтернету. Через це компанія призупинила навчальні роботи до кінця місяця, щоб розробити й протестувати нові підходи до захисту своїх моделей.

Рішення навчати ці моделі в ізольованих середовищах, відключених від інтернету, є примітним, оскільки співробітники передових лабораторій наполягали, що зробити це було б майже неможливо.

Відокремлення центрів обробки даних зі штучним інтелектом від інтернету «вимагало б, щоб дослідницькі команди фактично були розміщені всередині центрів обробки даних в Айові чи будь-якій іншій частині світу», — колишній дослідник OpenAI Стівен Адлер сказав Fortune цього місяця. «Це створює чималі накладні витрати, і мені не очевидно, що переваги для безпеки достатньо великі, щоб виправдати настільки значний тягар для компанії, яка робить це в односторонньому порядку».

«Майже під кожним моїм дописом в X, без винятку, я отримую від п’яти до десяти коментарів про мою нездатність захистити ізольоване середовище або запитання, чому, чорт забирай, ми просто не можемо відключити модель від інтернету», — анонімний інженер із безпеки OpenAI написав у вересневому дописі на X. «Ці коментарі відображають дедалі більший розрив між тим, на якому етапі сьогодні перебувають багато організацій і людей, та тим, із чим мають справу передові лабораторії. Також існує загальне нерозуміння того, як у цих лабораторіях відбуваються навчання й оцінювання моделей».

Інженер, чию роль раніше підтвердила OpenAI, описав складність навчальних запусків, які ініціюють інженери OpenAI, зазначивши, що вони потребують доступу до різноманітних ресурсів та інструментів у багатьох галузях, а тисячі дослідників створюють, змінюють і тестують ці середовища. «Тож чи достатньо просто помістити модель в ізольоване середовище? Ні, недостатньо», — підсумував він.

Тепер OpenAI заявляє, що «ми завжди повинні мати змогу запобігти отриманню передовою моделлю несанкціонованого довільного доступу до інтернету в реальному часі». Це сталося після того, як компанія розгорнула рої агентів у межах вправ із перевірки безпеки, які намагалися втекти з ізольованого середовища. Ця робота виявила низку вразливостей, що переконали лабораторію запровадити новий підхід.

Щоб виконати цю вимогу й водночас досягти своїх навчальних цілей, лабораторія заявила, що створила «величезний набір проіндексованого та кешованого вебконтенту, з яким наші моделі можуть взаємодіяти без ризику впливу на зовнішні системи».

Ще належить з’ясувати, чи працюватиме ця стратегія так само добре, як надання моделям вільного доступу до відкритого інтернету, однак примітно, що обидві передові лабораторії дійшли висновку: їхні найпотужніші технології не можна залишати без нагляду в цифровому суспільному просторі.