ASCII smuggling преминава от атаки срещу ИИ към спам
Техника, използвана първоначално за скриване на злонамерени инструкции от хората, проверяващи входове за системи с изкуствен интелект, вече се прилага и от спамъри за заобикаляне на филтрите за електронна поща. Тези филтри са предназначени да откриват нежелани съобщения, разпространявани в масови кампании. Методът е известен като ASCII smuggling и привлече внимание преди около две години заради използването му при атаки чрез prompt injection срещу AI агенти.
Вместо видим текст инструкциите се кодират със специален диапазон Unicode тагове. Блокът съдържа 128 знака и почти напълно възпроизвежда част от American Standard Code for Information Interchange. Например U+E0041 съответства на A, а U+E0061 — на a. Компютрите и големите езикови модели могат да обработват тези знаци, но те са проектирани да остават почти изцяло невидими за хората. Така скрити инструкции в имейли или друго ненадеждно съдържание могат да достигнат до AI система, без да бъдат забелязани от читателя. Сега техниката се използва и за заобикаляне на спам филтри.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.