Дослідник OpenAI попереджає: надшвидкий ШІ може залишити команди безпеки далеко позаду

Дослідник OpenAI, який працює під псевдонімом «roon», попереджає, що надзвичайно швидкий інференс ШІ створює ризики для безпеки, з якими чинні засоби захисту не впораються. За словами roon, неправильно узгоджена модель, що працює на рівні найкращих сучасних систем, але у 50 разів швидше, могла б настільки швидко проникати в системи, що команди реагування людей не мали б жодних шансів. Одного моніторингу було б недостатньо. «Потрібні автономне виявлення та вимкнення, а не просто моніторинг», — пише roon.

Це попередження перегукується зі зростаючим занепокоєнням у дослідженнях безпеки ШІ в міру того, як моделі стають потужнішими. Потенціал шкоди зростає, коли моделі належним чином не узгоджені з людськими цілями, а проблему такого узгодження досі не розв’язано. Швидкість лише погіршує ситуацію. Думка Roon така: якщо атаки автоматизуються, захист має наслідувати цей приклад.

Коментар Roon з’явився у відповідь на презентацію OpenAI свого нового ШІ-чипа, який за швидкістю інференсу може перевершувати сучасне обладнання. OpenAI та Anthropic уже пропонують «швидкі режими», які надають платним користувачам доступ до швидших моделей ШІ.

Новини ШІ без хайпу — добірка від людей

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.