Google DeepMind и правительство Сингапура объявили о новом ИИ-инструменте для защиты граждан от мошенничества

В рамках сотрудничества создана модель обнаружения мошенничества, работающая непосредственно на устройстве и помогающая защищать граждан без ущерба для конфиденциальности.

На мошенничество приходится более половины зарегистрированных преступлений в Сингапуре, а с 2019 года связанные с ним потери превысили 4 миллиарда сингапурских долларов. В то же время тактики мошенников изменились: от простого фишинга они перешли к сложной социальной инженерии, при которой злоумышленники манипулируют жертвами с помощью убедительных разговоров, прежде чем попросить перевести деньги. Сегодня на такие мошеннические схемы приходится до 80% всех потерь.

Чтобы решить эту проблему, Google DeepMind и Агентство по вопросам государственных технологий Сингапура (GovTech) работали вместе в рамках нашего национального партнёрства в области ИИ с правительством Сингапура. Это позволило нам создать модель обнаружения мошенничества, работающую непосредственно на устройстве и оптимизированную для запуска на обычных смартфонах в Сингапуре, чтобы решать актуальную проблему безопасности и одновременно сохранять конфиденциальность граждан.

Защита с помощью ИИ непосредственно на устройстве без ущерба для конфиденциальности

Универсальные модели часто с трудом распознают локальные методы обмана, что усложняет обнаружение мошенничества. Чтобы решить эту проблему, компактная модель Gemma от Google DeepMind была дообучена на локальных разговорах, связанных с мошенничеством. Они включали выдачу себя за государственные учреждения, банки и местных известных людей, а также популярные региональные схемы, что позволяет модели отличать безобидное общение в социальных сетях от настоящих манипуляций.

Новая модель также обрабатывает данные разговоров непосредственно на устройстве. Традиционно обнаружение угроз основано на проверке сообщений на сервере в облаке, однако многие платформы обмена сообщениями используют сквозное шифрование — это означает, что они не могут проверять личные разговоры. Людям нужен способ одновременно защищаться от мошенничества и сохранять конфиденциальность переписки, поэтому мы перенесли анализ угроз на устройство. Это позволяет быстрее анализировать закономерности в разговорах, выявлять манипулятивные намерения и давать гражданам возможность принять меры до раскрытия финансовой или учётной информации.

Как это работает: локальный контекст и эффективность на периферийных устройствах

Когда модель обнаруживает манипулятивные закономерности в разговоре, она в режиме реального времени выводит на устройстве пользователя предупреждение с рекомендацией остановиться и проявить осторожность, прежде чем делиться конфиденциальной информацией или средствами.

Запуск сложной модели классификации мошенничества на современных смартфонах — непростая задача, и энергоэффективность является одной из ключевых проблем. Для этого мы используем двухэтапный конвейер:

• Этап 1: лёгкий эффективный классификатор проверяет входящие сообщения, потребляя минимум энергии и уделяя особое внимание выявлению потенциальных угроз.
• Этап 2: контекстуальная оценка с помощью нашей дообученной модели Gemma, в рамках которой мы анализируем более полный фрагмент разговора, чтобы подтвердить угрозу или отклонить ложную тревогу.

На основе строгих принципов управления

Представленное на Международной неделе кибербезопасности в Сингапуре (SICW 2026), это сотрудничество демонстрирует модель для платформ обмена сообщениями, позволяющую сочетать защиту пользователей со сквозным шифрованием. На протяжении всей разработки соблюдались строгие принципы управления:

Суверенная песочница: дообучение проводилось в управляемой и поддерживаемой GovTech среде GCP, что обеспечивало изоляцию обучающих данных.

Без данных граждан: в обучении не использовались личные или позволяющие установить личность данные; применялись анонимизированные наборы данных, полученные из сообщений о мошенничестве и информационных материалов.

Стресс-тестирование: модель проверялась на синтетических диалогах и локальных корпусах, чтобы охватить различные категории мошенничества и меняющиеся тактики выдачи себя за других лиц.

Будущее безопасности на устройствах

Проект демонстрирует, как ИИ может помочь сервисам обмена сообщениями противостоять преступности, и показывает, что при запуске защитного ИИ непосредственно на устройстве не обязательно жертвовать безопасностью или конфиденциальностью. Он также показывает, как правительства и разработчики моделей могут совместно создавать технологии на благо общества. Платформы обмена сообщениями и производители операционных систем могут напрямую интегрировать эти компактные модели, чтобы локально защищать пользователей и обеспечивать безопасность общения в чатах без раскрытия личных данных.