ASCII smuggling використовують для обходу спам-фільтрів
Технологію, яку спочатку застосовували для приховування шкідливих інструкцій від людей, що перевіряють дані для систем штучного інтелекту, тепер використовують і спамери для обходу фільтрів електронної пошти. Ці фільтри мають виявляти небажані повідомлення, що надсилаються в межах масових кампаній. Метод відомий як ASCII smuggling і близько двох років тому привернув увагу через атаки prompt injection на AI-агентів.
Замість звичайного видимого тексту інструкції кодують за допомогою спеціального діапазону тегів Unicode. Блок містить 128 символів і майже повністю відтворює частину American Standard Code for Information Interchange. Наприклад, U+E0041 відповідає A, а U+E0061 — a. Комп’ютери та великі мовні моделі можуть обробляти ці символи, але для людей вони навмисно залишаються майже повністю невидимими. Завдяки цьому приховані інструкції в електронних листах або іншому ненадійному вмісті можуть потрапити до AI-системи непоміченими для читача. Тепер техніку застосовують не лише для маскування prompt injection, а й для обходу спам-фільтрів.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.