Google DeepMind і уряд Сінгапуру оголосили про новий ШІ-інструмент для захисту громадян від шахрайства

У межах співпраці створено модель виявлення шахрайства на пристрої, яка допомагає захищати громадян без шкоди для конфіденційності.

На шахрайство припадає понад половина зареєстрованих у Сінгапурі злочинів, а з 2019 року збитки від нього перевищили 4 мільярди сінгапурських доларів. Водночас шахрайські методи змістилися від простого фішингу до складної соціальної інженерії, коли зловмисники маніпулюють жертвами за допомогою переконливих розмов, перш ніж вимагати гроші. Нині на такі шахрайські схеми припадає до 80% усіх збитків.

Щоб розв'язати цю проблему, Google DeepMind і Агентство урядових технологій Сінгапуру (GovTech) співпрацюють у межах нашого національного ШІ партнерства з урядом Сінгапуру. Це дало нам змогу створити модель виявлення шахрайства на пристрої — оптимізовану для роботи на звичайних смартфонах у Сінгапурі — щоб розв'язати нагальну проблему безпеки, водночас зберігаючи конфіденційність громадян.

Захист за допомогою ШІ на пристрої без шкоди для конфіденційності

Звичайним моделям часто складно розпізнавати локалізовані методи обману, що ускладнює виявлення шахрайства. Щоб розв'язати цю проблему, легку модель Gemma від Google DeepMind донавчили на локальних шахрайських розмовах. Вони охоплювали випадки видавання себе за представників державних установ, банків і місцевих діячів, а також актуальні регіональні схеми, завдяки чому модель може відрізняти нешкідливе спілкування в соціальних мережах від справжньої маніпуляції.

Ця нова модель також обробляє дані розмови на пристрої. Традиційно виявлення загроз передбачає сканування повідомлень на сервері в хмарі, але багато платформ обміну повідомленнями використовують наскрізне шифрування — це означає, що вони не можуть перевіряти приватні розмови. Людям потрібен спосіб захиститися від шахрайства, водночас зберігаючи конфіденційність розмов, і наше рішення полягає в перенесенні аналізу загроз на пристрій. Це дає змогу швидше аналізувати моделі розмов, виявляти маніпулятивні наміри та дозволяти громадянам діяти до того, як станеться розкриття фінансових даних або облікових даних.

Як це працює: локальний контекст і ефективність на периферії

Коли модель виявляє маніпулятивні моделі спілкування, вона безпосередньо на пристрої користувача запускає попередження в реальному часі, радячи зробити паузу й бути обережним, перш ніж ділитися конфіденційною інформацією або коштами.

Запуск складної моделі класифікації шахрайства на сучасних смартфонах — непросте завдання, і енергоефективність є критично важливим аспектом. Для цього ми покладаємося на двоетапний конвеєр:

• Етап 1: легкий, ефективний класифікатор перевіряє вхідні повідомлення, використовуючи мінімум енергії та зосереджуючись на виявленні потенційних загроз.
• Етап 2: контекстуальна оцінка за допомогою нашої донавченої моделі Gemma, під час якої ми аналізуємо ширший фрагмент розмови, щоб підтвердити загрозу або відкинути хибну тривогу.

Створено на основі суворого управління

Представлена на Singapore International Cyber Week (SICW 2026), ця співпраця демонструє платформам обміну повідомленнями модель поєднання захисту користувачів із наскрізним шифруванням. Упродовж усього процесу розробки дотримувалися суворих принципів управління:

Суверенне середовище: донавчання відбувалося в керованому та підтримуваному GovTech середовищі GCP, що забезпечило ізоляцію навчальних даних.

Без даних громадян: під час навчання суворо не використовувалися приватна інформація або персональні дані; натомість застосовувалися анонімізовані набори даних, отримані зі звітів про шахрайство та розвідувальних джерел.

Стрес-тестування: модель перевіряли на синтетичних діалогах і локальних корпусах, щоб охопити різноманітні категорії шахрайства та мінливі тактики видавання себе за інших.

Майбутнє безпеки на пристрої

Проєкт демонструє, як ШІ може допомогти сервісам обміну повідомленнями протидіяти злочинності, і показує, що безпекою та конфіденційністю не потрібно жертвувати, запускаючи захисний ШІ безпосередньо на пристрої. Він також показує, як уряди та розробники моделей можуть співпрацювати над створенням технологій для суспільного блага. Платформи обміну повідомленнями та виробники операційних систем можуть безпосередньо інтегрувати ці легкі моделі, щоб локально захищати користувачів і забезпечувати безпеку взаємодії в чатах без розкриття приватних даних.