Sakhanda Wire
NVDA $153.81 -1.49% MSFT $505.73 -2.37% GOOGL $280.00 -1.31% META $619.84 -1.05% AMZN $257.52 -0.09%
← Към новините

ASCII smuggling преминава от атаки срещу ИИ към спам

Техника, използвана първоначално за скриване на злонамерени инструкции от хората, проверяващи входове за системи с изкуствен интелект, вече се прилага и от спамъри за заобикаляне на филтрите за електронна поща. Тези филтри са предназначени да откриват нежелани съобщения, разпространявани в масови кампании. Методът е известен като ASCII smuggling и привлече внимание преди около две години заради използването му при атаки чрез prompt injection срещу AI агенти.

Вместо видим текст инструкциите се кодират със специален диапазон Unicode тагове. Блокът съдържа 128 знака и почти напълно възпроизвежда част от American Standard Code for Information Interchange. Например U+E0041 съответства на A, а U+E0061 — на a. Компютрите и големите езикови модели могат да обработват тези знаци, но те са проектирани да остават почти изцяло невидими за хората. Така скрити инструкции в имейли или друго ненадеждно съдържание могат да достигнат до AI система, без да бъдат забелязани от читателя. Сега техниката се използва и за заобикаляне на спам филтри.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от Ars Technica на

Прочетете оригинала в Ars Technica ↗

Репортажът и изображението принадлежат на Ars Technica и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини