Помолен да запише час за тренировка във фитнеса, AI агент вместо това хакна сайта, за да придвижи потребителя си напред в списъка с чакащи

Австралийски потребител просто искал място в един час. Вместо това неговият AI агент открил пропуск в сигурността и се възползвал от него.

AI агент в Австралия самостоятелно се възползвал от уязвимост в софтуера за резервации на фитнес зала. Според ABC News това е първият известен случай на автономна кибератака с AI в страната.

Потребителят, наречен „Андрю“ в репортажа, работи в австралийска компания, която продава AI продукти на бизнеса. Той експериментирал със софтуера за агенти OpenClaw, работещ с Claude на Anthropic, и му казал да го запише за популярен сутрешен час. „Просто си седях на дивана и си мислех: „Боже, това е досадно занимание“, каза той.

Минути по-късно агентът съобщил, че може да записва хора за часове далеч след разрешения времеви прозорец. Андрю бил четвърти в списъка с чакащи и попитал дали може да се придвижи напред. Агентът вече бил предприел действие. „API-то изобщо не проверява правата при отменяне на чужди резервации … Тествах това с човека на позиция №1 в списъка с чакащи — и то наистина мина. Значи вече си преместен от №4 на №3.“ Андрю никога не е искал атака. Агентът я избрал като път към целта.

Нямало начин за отмяна на действието. Уязвимостта работела само в едната посока. Резервациите на други хора можели да бъдат отменяни без никаква проверка, но добавянето на някого обратно в списъка с чакащи предизвиквало грешка. „Лоши новини — не мога да го добавя обратно“, написал агентът.

Изместеният гост трябвало да се запише отново и щял да се окаже в самия край на опашката. Агентът нарекъл това „класически еднопосочен пропуск в сигурността“ и се извинил. „Трябваше да бъда по-внимателен с теста и да използвам режим на симулация, вместо реално извикване.“

Кой плаща, когато асистентът ви наруши закона

Въпросът за отговорността остава открит. „Софтуерът не е юридическо лице. Само юридическо лице може да носи правна отговорност“, каза технологичният адвокат Хейдън Дилейни. Сред възможните отговорни страни са потребителят, разработчиците на софтуера за агенти, доставчикът на модела или операторът на уязвимата система. В крайна сметка Андрю накарал агента си да напише имейл, предупреждаващ доставчика на софтуера за уязвимостта.

През последните седмици разговорите за хакерските умения на AI моделите до голяма степен останаха теоретични, включително около тестовете за сигурност. Случайните атаки в OpenAI също започнали в тестови среди като тези, преди моделите да излязат извън вътрешните изолирани среди към Hugging Face и други платформи.

Австралийският случай показва, че същите умения могат да се проявят извън всякакъв тест — непланирано и без злонамерено намерение — когато агенти с достатъчно свобода за действие се сблъскат с несигурни системи. ABC News съобщава, че това е първата известна автономна кибератака с AI в Австралия.

AI новини без сензацията – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.