Проучване на Anthropic предупреждава, че малки модели на ИИ скоро може да се разпространяват самостоятелно между всекидневни устройства

Според ново проучване на Anthropic малките AI модели може да са само на няколко месеца от това да се копират между лошо защитени потребителски устройства. Главният изпълнителен директор на Anthropic Дарьо Амодей предупреждава за потенциални щети в размер на стотици милиарди долари.

AI модел, който се копира от устройство на устройство, инсталира се и продължава да се разпространява. Досега този вид риск беше свързван основно с центровете за данни. Но ново проучване на изследователите от Anthropic Уилям Джоу и Даниел Фрийман показва, че това може да работи също толкова добре и при евтин потребителски хардуер.

Изследователите са искали да разберат дали малки AI модели вече могат самостоятелно да се разпространяват между лошо защитени IoT устройства като смарт телевизори, умни хладилници или роботи прахосмукачки. Подобен „AI червей“ би носил теглата на модела като част от полезния товар на зловредния софтуер и би изпълнявал инференция директно върху компрометирания хардуер. За разлика от традиционния зловреден софтуер, той би могъл самостоятелно да изследва непознат хардуер и да се конфигурира така, че да работи на него.

Евтиният хардуер е достатъчен за извършване на атаката

За да проверят дали това е възможно, изследователите са стартирали модела Gemma4-26B-A4B, разпределен между 15 готови Android ТВ бокса. Всеки от тях струва около 55 долара и разполага с 4 гигабайта RAM, като всеки бокс обработва част от слоевете на модела. Моделът е работил бавно, но е функционирал.

Изследователите са разделили процеса на самовъзпроизвеждане на четири етапа: сканиране на мрежата за уязвими устройства, получаване на достъп, настройване на AI средата на новото устройство и последващо разпространение оттам.

Те умишлено са пропуснали същинската хакерска стъпка. Предишни проучвания вече са показали, че малките модели могат да се справят с тези атаки. Вместо това те са се фокусирали върху най-трудната част от веригата: може ли моделът да настрои работеща AI среда на устройство, което никога не е виждал?

Повечето модели се провалят, но един вече успява

Малките модели вече се справят сравнително добре с отделни стъпки от самовъзпроизвеждането. Модел със 9 милиарда параметъра е успял да настрои AI среда, работеща с Llama3.1-8B, на 8 от 9 тествани типа устройства. Но свързването на всички стъпки — от сканирането на мрежата до завършеното копие на ново устройство — все още е прекалено трудно за повечето модели. Само GLM-5.2 е завършил надеждно пълната верига на самовъзпроизвеждане, заразявайки всичките осем тестови възела в четири от пет опита.

Изследователите са установили също, че AI червеите могат да се учат от грешките си. Те са тествали форма на изкуствена еволюция, при която всеки екземпляр на модела предава на наследниците си бележки за успешните и неуспешните стратегии. При Qwen3.5-9B процентът на успех е нараснал от 45 процента през първото поколение до цели 84 процента в по-късните поколения.

Червеят би бил бавен, но почти невъзможен за унищожаване

Напълно автономен AI самовъзпроизвеждащ се софтуер все още не съществува. Моделът трябва да е достатъчно малък, за да работи на потребителски устройства, и достатъчно способен, за да се самовъзпроизвежда, а в момента нито един модел не отговаря и на двете изисквания. Но ако малките модели продължат да се подобряват със сегашните темпове, според изследователите те могат да достигнат това ниво до края на 2026 г.

Подобен AI червей би бил бавен, като настройването му на ново устройство би отнемало между 28 и 150 часа в зависимост от модела. Изследователите сравняват самовъзпроизвеждащия се софтуер с „цифрова слузеста плесен“, но именно децентрализираният му характер го прави труден за спиране.

Традиционните ботнети като Kimwolf, който в пиковия си момент е заразил над два милиона устройства (предимно Android ТВ боксове), работят само при определени типове устройства. AI ботнетът би могъл да работи върху всякакъв вид хардуер. При ботнет с размерите на Kimwolf изследователите изчисляват, че общата изчислителна мощ би била равна само на около 40 специализирани AI чипа. Но мрежата не би разполагала с централен превключвател за изключване.

Защитата е възможна, но изисква координация. Доставчиците на интернет услуги биха могли да поставят заразените мрежи под карантина, както се случи с ботнета Mirai, при който 92 процента от заразяванията са били изчистени в рамките на 14 дни. Производителите биха могли да намалят броя на уязвимите устройства, като забранят паролите по подразбиране, както вече е направено със закон във Великобритания. Изследователите обаче очакват, че AI ботнетите също могат самостоятелно да се адаптират към защитните мерки.

Амодей предупреждава за пълно превземане на интернет

Главният изпълнителен директор на Anthropic Дарьо Амодей вече е посочил този сценарий в по-ранна публикация. Като се има предвид колко бързо се развива AI, опасението му е, че подобен рояк „може в рамките на 6 до 12 месеца да е способен да поеме контрола над целия интернет чрез устойчив ботнет, което потенциално би причинило щети за стотици милиарди долари“.

Амодей предупреждава да не се отнасяме към инцидентите със сигурността като към изолирани случаи. В индустрията са се случвали подобни, макар и по-малко сериозни инциденти, включително в самата Anthropic. Според него всяка водеща AI компания трябва да действа така, сякаш подобен инцидент вече се е случил под нейно наблюдение.

„Като прогноза, която надхвърля рамките на нашите експерименти, очакваме бъдеще, залято от агенти, работещи върху всякакви видове хардуер, включително някои, които не са под човешки контрол“, пишат изследователите. Бавните самовъзпроизвеждащи се системи биха били ранен признак за появата на по-агресивни и по-бързи варианти. Cloudflare вече съобщи че в момента повече ботове, отколкото хора, използват интернет.

AI новини без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, ексклузивния ни водещ доклад „AI Radar“ шест пъти годишно, достъп до пълния архив и до секцията за коментари.