Някога използвано за атаки срещу ИИ, ASCII smuggling е възприето от спамърите
Хитра техника, използвана за скриване на злонамерени подсказки при атаки срещу AI агенти, е възприета от спамърите, за да заобикалят филтрите в имейл платформите, предназначени да маркират нежеланите съобщения, използвани в масови кампании.
Техниката е широко известна като ASCII стеганография. Тя привлече внимание преди две години като средство за прикриване на един вид AI атака, известна като инжектиране на подсказки. Злонамерените инструкции, вградени в имейли или друго ненадеждно съдържание, което трябва да бъде обработено от LLM, не са написани с обикновен текст. Вместо това те са представени чрез специален диапазон от Unicode тагове. Например кодовата точка U+E0041 съответства на „A“, а U+E0061 съответства на „a.“
Вече не е предназначена само за прикриване на инжектиране на подсказки
Блокът от 128 тага почти идеално имитира част от американския стандартен код за обмен на информация, с една съществена разлика: символите, които те кодират, могат да бъдат прочетени от компютрите, но по замисъл са почти напълно невидими за хората. Когато злонамерените подсказки бъдат изразени чрез тези тагове, LLM разпознават инструкциите, но хората, които четат имейла, никога не ги виждат. Тук можете да научите много повече за ASCII стеганографията.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.