Когда-то популярный для атак на ИИ, ASCII smuggling теперь осваивают спамеры
Хитрый метод, используемый для сокрытия вредоносных промптов в атаках на ИИ-агентов, был взят на вооружение спамерами, чтобы обходить фильтры почтовых платформ, предназначенные для выявления нежелательных сообщений, используемых в массовых рассылках.
Этот метод широко известен как ASCII-сокрытие. Он привлёк внимание два года назад как средство сделать более незаметным класс атак на ИИ, известный как инъекции промптов. Вредоносные инструкции, встроенные в электронные письма или другой ненадёжный контент, который должен обрабатываться LLM, записываются не обычным текстом. Вместо этого они кодируются специальным диапазоном тегов Unicode. Например, кодовая точка U+E0041 соответствует «A», а U+E0061 — «a».
Теперь это используется не только для сокрытия инъекций промптов
Блок из 128 тегов почти идеально имитирует часть американского стандартного кода для обмена информацией, но с одним существенным отличием: закодированные в них символы читаются компьютерами, однако по замыслу почти полностью невидимы для людей. Если выразить вредоносные промпты с помощью этих тегов, LLM обнаруживают инструкции, но люди, читающие письмо, их не видят. Подробнее о сокрытии ASCII можно узнать здесь.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.