Дослідження Anthropic попереджає: невеликі моделі ШІ невдовзі зможуть поширюватися між повсякденними пристроями

Згідно з новим дослідженням Anthropic, невеликі моделі ШІ можуть бути всього за кілька місяців від здатності копіювати себе на недостатньо захищені споживчі пристрої. Генеральний директор Anthropic Даріо Амодеї попереджає про потенційні збитки в сотні мільярдів доларів.

Модель ШІ, яка копіює себе з пристрою на пристрій, встановлює себе та продовжує поширюватися. Досі такий ризик переважно пов’язували із центрами обробки даних. Але нове дослідження співробітників Anthropic Вільяма Чжоу та Даніеля Фрімена показує, що це може так само добре працювати на дешевому споживчому обладнанні.

Дослідники хотіли з’ясувати, чи можуть невеликі моделі ШІ вже самостійно поширюватися на недостатньо захищених пристроях Інтернету речей, таких як смарттелевізори, розумні холодильники або роботи-пилососи. Такий «хробак ШІ» містив би ваги моделі як частину корисного навантаження шкідливого програмного забезпечення та безпосередньо запускав би висновування на скомпрометованому обладнанні. На відміну від традиційного шкідливого програмного забезпечення, він міг би самостійно досліджувати незнайоме обладнання та налаштовувати себе для роботи на ньому.

Для атаки достатньо дешевого обладнання

Щоб перевірити, чи це можливо, дослідники запустили модель Gemma4-26B-A4B, розподілену між 15 готовими Android TV-приставками. Кожна коштує близько 55 доларів і має 4 гігабайти оперативної пам’яті, причому кожна приставка обробляла частину шарів моделі. Модель працювала повільно, але це спрацювало.

Дослідники розділили процес самовідтворення на чотири етапи: сканування мережі на наявність вразливих пристроїв, отримання доступу, налаштування середовища ШІ на новому пристрої та подальше поширення з нього.

Вони навмисно не включили власне етап злому. Попередні дослідження вже показали, що невеликі моделі можуть впоратися з такими атаками. Натомість вони зосередилися на найскладнішій частині ланцюга: чи може модель налаштувати робоче середовище ШІ на пристрої, якого вона ніколи раніше не бачила?

Більшість моделей зазнають невдачі, але одна вже справляється

Невеликі моделі вже досить добре виконують окремі етапи самовідтворення. Модель із 9 мільярдами параметрів змогла налаштувати середовище ШІ із запущеною Llama3.1-8B на 8 із 9 протестованих типів пристроїв. Але об’єднати всі етапи — від сканування мережі до завершеної копії на новому пристрої — більшості моделей поки що не під силу. Лише GLM-5.2 надійно завершила повний цикл самовідтворення, заразивши всі вісім тестових вузлів у чотирьох із п’яти запусків.

Дослідники також виявили, що хробаки ШІ можуть вчитися на своїх помилках. Вони випробували форму штучної еволюції, за якої кожен екземпляр моделі передає наступникам нотатки про успішні та невдалі стратегії. Для Qwen3.5-9B рівень успішності зріс із 45 відсотків у першому поколінні до 84 відсотків у наступних.

Хробак був би повільним, але майже невбиваним

Повністю автономного реплікатора ШІ поки не існує. Модель має бути достатньо малою, щоб працювати на споживчих пристроях, і достатньо потужною, щоб відтворювати себе, але жодна модель наразі не відповідає обом вимогам. Однак якщо невеликі моделі й надалі вдосконалюватимуться нинішніми темпами, дослідники вважають, що до кінця 2026 року вони можуть досягти цього.

Такий хробак ШІ був би повільним: встановлення на новому пристрої тривало б від 28 до 150 годин залежно від моделі. Дослідники порівнюють реплікатор із «цифровою слизовою пліснявою», але саме його децентралізована природа ускладнює зупинку.

Традиційні ботнети, такі як Kimwolf, який на піку заразив понад два мільйони пристроїв (переважно Android TV-приставок), працюють лише на певних типах пристроїв. Ботнет ШІ міг би працювати на різноманітному обладнанні. У ботнеті розміром із Kimwolf, за оцінкою дослідників, сукупні обчислювальні потужності дорівнювали б лише приблизно 40 спеціалізованим чипам для ШІ. Але така мережа не мала б центрального перемикача для її вимкнення.

Захист можливий, але потребує координації. Інтернет-провайдери могли б ізолювати заражені мережі, як це сталося з ботнетом Mirai, коли протягом 14 днів було очищено 92 відсотки заражень. Виробники могли б зменшити кількість вразливих пристроїв, заборонивши паролі за замовчуванням, як це вже зробила Велика Британія на законодавчому рівні. Однак дослідники очікують, що ботнети ШІ також зможуть самостійно адаптуватися до захисних заходів.

Амодеї попереджає про повне захоплення інтернету

Генеральний директор Anthropic Даріо Амодеї вже описував цей сценарій у попередній публікації. З огляду на швидкість розвитку ШІ він побоюється, що такий рій «протягом 6–12 місяців може отримати здатність захопити весь інтернет за допомогою стійкого ботнету, потенційно завдавши збитків на сотні мільярдів доларів».

Амодеї застерігає від сприйняття інцидентів безпеки як поодиноких випадків. Подібні, хоча й менш серйозні інциденти вже траплялися в усій галузі, зокрема й у самій Anthropic. Він стверджує, що кожна провідна компанія у сфері ШІ має діяти так, наче такий інцидент уже стався під час її чергування.

«Як прогноз, що виходить за межі наших експериментів, ми очікуємо майбутнього, переповненого агентами, які працюють на всіх типах обладнання, зокрема на такому, що не перебуває під контролем людей», — пишуть дослідники. Повільні реплікатори можуть бути ранньою ознакою переходу до агресивніших і швидших варіантів. Cloudflare вже повідомила , що інтернетом тепер користується більше ботів, ніж людей.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.