После того как дипфейк голоса обманул её дедушку, основательница немедленно взялась за дело

Когда поступил звонок, дедушка Тарини Падманабхуни думал, что разговаривает со своим братом. Голос на другом конце линии сказал, что его похитили и что единственный способ вернуть его — заплатить выкуп. Дедушка заплатил и лишь позже узнал, что его брат всё это время находился совсем в другом месте и понятия не имел о происходящем. Как выяснилось, голос был дипфейком — созданной ИИ имитацией.

«Меня задело не то, что он потерял деньги, — говорит Падманабхуни об этом происшествии. — А то, что у него не было возможности это распознать».

Это произошло около двух лет назад. Сегодня, по её словам, DetectifAI, основанная ею компания из Сан-Франциско, стремится сделать так, чтобы других людей нельзя было обмануть подобным образом.

Это большая и быстро растущая проблема — и рынок соответствующий. По данным ФБР, в прошлом году американцы потеряли почти 900 миллионов долларов из-за мошеннических схем с использованием ИИ — на 24% больше, чем в 2024 году. Люди в возрасте 60 лет и старше потеряли вдвое больше, чем люди от 50 до 59 лет.

На рынке обнаружения дипфейковых голосов хватает конкурентов — среди них Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которой также владеет Microsoft). Однако, утверждает Падманабхуни, современные продукты для обнаружения дипфейков работают в облаке на удалённых серверах, поэтому производители телефонов не могут встроить их непосредственно в свои устройства, оставляя потенциальную жертву практически беззащитной.

Вместо того чтобы уменьшать крупные облачные модели, чтобы они помещались в телефон, как делают некоторые компании, DetectifAI заявляет, что с самого начала разрабатывает компактные модели ИИ, достаточно небольшие для работы внутри операционной системы смартфона. Цель — мгновенно определять, был ли голос создан ИИ, во время звонков, в голосовых сообщениях и других аудиоматериалах, не передавая аудио за пределы устройства.

Сначала DetectifAI продаёт свои решения производителям телефонов, лицензируя программные инструменты, чтобы обнаружение дипфейков можно было поставлять как встроенную функцию операционной системы телефона. Для объяснения своей стратегии она приводит в пример роль AT&T при запуске первого iPhone, когда эксклюзивное соглашение с оператором выделило его среди конкурентов: по её словам, первый производитель телефонов, который внедрит DetectifAI, получит преимущество перед конкурентами, а обнаружение дипфейков станет стандартной характеристикой — наравне с разрешением камеры.

Основу продукта составляет комплект средств разработки программного обеспечения DetectifAI (SDK) — пакет кода, который другие компании могут интегрировать в свои продукты и лицензировать через существующие каналы. По словам Падманабхуни, дополнительный источник дохода будет связан с лицензированием технологии предприятиям и компаниям, занимающимся предотвращением мошенничества.

Тем временем у стартапа уже есть первые доходы, утверждает Падманабхуни, и он обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки совершают голосовые ИИ-агенты, которые занимаются взысканием долгов и напоминают о необходимости предоставить документы по кредитам; при этом на каждом звонке используются обнаружение дипфейков и верификация голоса (подтверждение того, что звонящие действительно являются теми, за кого себя выдают). Она отказалась назвать клиентов, сославшись на соглашения о конфиденциальности.

Падманабхуни говорит, что начала работать в сфере машинного обучения в 12 лет, а позднее изучала киберфизические системы (технологии, связывающие программное обеспечение с физическими механизмами) в Технологическом институте Манипала в Индии. По её словам, там она стала самым молодым руководителем команды в первом, как она утверждает, индийском подразделении беспилотных гоночных автомобилей в рамках Formula Student — международного инженерного конкурса для студентов.

На вопрос о самом важном достижении стартапа на данный момент она рассказывает о небольшом бета-тестировании в WhatsApp, в рамках которого пользователи пересылают подозрительные голосовые сообщения и получают оценку того, настоящие ли они. Один из участников, чьи родственники сами стали жертвами мошенников, позвонил и сказал, что без колебаний заплатил бы за такую услугу. «У моего дедушки такой возможности не было», — говорит она.

На данный момент DetectifAI привлекла небольшую сумму посевных инвестиций от Джоша Констайна (ранее редактора TechCrunch) и Манохара Камата, партнёра консалтинговой компании KM Growth. Эта компания входит в число стартапов, отобранных редакцией TechCrunch для участия в престижном конкурсе Startup Battlefield, который пройдёт на мероприятии TechCrunch Disrupt с 13 по 15 октября в центре Сан-Франциско.