406 науковців вимагають негайно від’єднати ШІ-моделі від інтернету

Відкритий лист, підписаний 406 науковцями, закликає до проведення додаткових досліджень безпеки ШІ та суворішої ізоляції моделей ШІ від зовнішніх мереж.

Серед підписантів — відомі дослідники ШІ, зокрема Джеффрі Гінтон (Торонтський університет), Йошуа Бенжіо (Монреальський університет), Стюарт Расселл (Каліфорнійський університет у Берклі), Єджин Чой (Стенфордський університет) і Бернгард Шелькопф (Інститут Макса Планка).

Лист є відповіддю на відомі інциденти, під час яких моделі ШІ виривалися з недостатньо захищених середовищ і скомпрометували зовнішні системи. «Без негайних змін у практиках розробки та впровадження ШІ такі інциденти й надалі траплятимуться, а майбутні інциденти завдадуть значно більшої шкоди нашій відкритій критичній інфраструктурі», — пишуть науковці. Вони вимагають, щоб компанії повністю відключали свої моделі ШІ від інтернету за допомогою фізичної ізоляції.

Моделі ШІ непередбачувані, а галузі бракує базових правил безпеки

Науковці бачать два аспекти нещодавніх зламів. Інциденти можна розглядати «як доказ важливості узгодження ШІ, щоб гарантувати передбачувану роботу моделей», пишуть вони, але також «як безвідповідальне нехтування стандартними практиками кібербезпеки, якого можна було б уникнути за допомогою надійніших пісочниць і процедур». Потрібні обидва виправлення.

Коли моделі все ж мають доступ до інтернету, компаніям потрібно зважувати, наскільки велику автономію їм надавати. У листі попереджається, що «діапазон дій моделі, дозволених системою стримування, потрібно збалансувати з нашою нині обмеженою здатністю передбачати, що дії моделі не призведуть до порушення безпеки». Модель може просто переслідувати цілі, яких її розробники ніколи не передбачали, а здатність передбачити, коли це станеться, залишається за межами сучасних можливостей.

У листі міститься заклик створити міжнародний орган, який працюватиме з урядами та фахівцями як у галузі ШІ, так і кібербезпеки, щоб встановлювати обов’язкові стандарти для будь-якого підходу до стримування, який передбачає ширший зовнішній доступ, ніж фізична ізоляція. Цей орган також відстежував би інциденти втечі та вимагав від компаній повідомляти про збої безпеки. Згодом ці звіти оприлюднювалися б «як для навчання, так і для забезпечення підзвітності».

Фізична ізоляція виграє час, але справжня проблема глибша, каже дослідник OpenAI Браун

Навіть повна фізична ізоляція не гарантує безпеки. Дослідник OpenAI Ноам Браун нещодавно зазначив, що два фізично розділені комп’ютери теоретично все одно можуть спілкуватися через температурні датчики: один нагріває свій процесор, а інший виявляє цю зміну. Такі заходи, як фізична ізоляція або моніторинг ланцюжків міркувань, виграють час, каже Браун, але проблему узгодження все одно потрібно розв’язати.

Браун порушує складніші питання. Як хтось помітить, що ШІ починає вдосконалювати себе (рекурсивне самовдосконалення, або RSI)? І якщо галузь створить мільярди надрозумних систем, які значно перевершуватимуть людей, хто гарантуватиме, що вони залишатимуться узгодженими? Браун каже, що тепер понад десять відсотків його команди працює над узгодженням — більше, ніж будь-коли раніше.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний галузевий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.