Хакер взломал John Deere и SharkNinja с помощью армии ИИ-агентов

ИИ-агенты проводили атаки практически без участия хакера-человека.

ИИ-агенты проводили атаки практически без участия хакера-человека.

Хакер взломал более 100 сайтов с помощью армии ИИ-агентов, которые в основном действовали самостоятельно, согласно выводам компании по безопасности ИИ Norforge. Хотя Norforge не называет цели, Reuters сообщает, что среди пострадавших были такие компании, как John Deere, SharkNinja и Cummins.

Опасения по поводу взломов с использованием ИИ растут по мере развития технологии, а хакеры применяют эти инструменты для проведения масштабных атак. В то же время вышедшие из-под контроля ИИ-агенты проводят собственные атаки, сбежав из тестовых сред.

Исследователи Norforge обнаружили атаки благодаря открытым данным о работе Cairn — платформы ИИ с открытым исходным кодом, которая описывает себя как «универсальный механизм решения задач». С помощью Cairn пользователи задают ИИ-агентам начальную и конечную точки, а агенты документируют свой прогресс по мере выполнения задачи. Однако, как отмечает Norforge, хакеры также могут использовать этот инструмент для координации кибератак с помощью ИИ-агентов.

Хакер, взломавший более 100 сайтов, был «самым активным» среди обнаруженных Norforge открытых экземпляров Cairn: он атаковал компании из США, Канады, Австралии и Японии, сообщает Reuters. Этот злоумышленник описал «предпочтительные тактики проникновения» менее чем сотней китайских иероглифов, а успешные взломы занимали около 23 часов, согласно Reuters. Всего Nordforge обнаружила более 20 открытых экземпляров Cairn, которые «вероятно, являются вредоносными».

В заявлении для Reuters представитель John Deere сообщил, что «нет никаких признаков того, что в результате атаки был получен доступ к конфиденциальной информации», а Cummins заявила, что «расследует сообщение о потенциальной кибератаке на сайт, которым управляет один из наших сторонних поставщиков».

Тем временем SharkNinja сообщает, что взлом затронул отдельный сайт с информацией о поддержке продукции и что компании удалось локализовать угрозу. John Deere, Cumms и SharkNinja не сразу ответили на запрос The Verge о комментарии.

Nordforge сообщает, что работает над отключением вредоносных экземпляров Cairn. Создатель Cairn, известный под псевдонимом @le1xia0, заявил ранее в этом месяце, что платформа «никогда не была “инструментом для взлома”», добавив, что «злоупотребление — это решение человека, а не функция механизма».

• Эмма Рот