Після того як діпфейк голосу ошукав її дідуся, ця засновниця негайно взялася до справи

Коли пролунав дзвінок, дідусь Таріні Падманабхуні вважав, що розмовляє зі своїм братом. Голос на іншому кінці лінії сказав, що його викрали, і єдиний спосіб повернути його — заплатити викуп. Її дідусь заплатив, а згодом дізнався, що його брат увесь цей час перебував зовсім в іншому місці й гадки не мав, що відбувається. Як виявилося, голос був дипфейком — згенерованою штучним інтелектом імітацією.

«Мене вразили не гроші», — розповідає Падманабхуні про цей випадок. «А те, що він ніяк не міг цього визначити».

Це було близько двох років тому. Сьогодні, за її словами, DetectifAI, компанія із Сан-Франциско, яку вона заснувала, прагне зробити так, щоб інших не вдалося ошукати таким самим чином.

Це велика й дедалі серйозніша проблема, що має відповідний ринок. За даними ФБР, минулого року американці втратили майже 900 мільйонів доларів через шахрайські схеми із використанням штучного інтелекту — на 24% більше, ніж у 2024 році. Люди віком від 60 років втратили вдвічі більше, ніж люди віком від 50 до 59 років.

На ринку виявлення дипфейків голосу не бракує конкурентів — серед них Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety і Nuance (якою також володіє Microsoft). Однак, стверджує Падманабхуні, сучасні продукти для виявлення дипфейків працюють у хмарі на віддалених серверах, тому виробники телефонів не можуть безпосередньо вбудувати їх у свої пристрої, залишаючи людину, на яку спрямована атака, практично без захисту.

Замість того щоб зменшувати великі хмарні моделі, аби вони вміщувалися в телефоні, як це роблять деякі компанії, DetectifAI стверджує, що від самого початку розробляє компактні моделі штучного інтелекту, достатньо малі для роботи в операційній системі смартфона. Мета — миттєво визначати, чи був голос згенерований штучним інтелектом, під час дзвінків, у голосових повідомленнях та інших аудіозаписах, не передаючи аудіо за межі пристрою.

Спочатку DetectifAI продає свою технологію виробникам телефонів, ліцензуючи програмні інструменти, щоб виявлення дипфейків могло постачатися як вбудована функція операційної системи телефону. Її аналогія — роль AT&T під час запуску першого iPhone, коли ексклюзивна угода з оператором вирізняла його серед конкурентів: стверджує Падманабхуні, перший виробник телефонів, який інтегрує DetectifAI у свої пристрої, отримає перевагу над конкурентами, а виявлення дипфейків стане стандартною характеристикою, як-от роздільна здатність камери.

Ядром продукту є комплект засобів розробки програмного забезпечення DetectifAI (SDK) — пакет коду, який інші компанії можуть інтегрувати у свої продукти та ліцензувати через наявні канали. Падманабхуні каже, що додатковим джерелом доходу стане ліцензування технології підприємствам і компаніям, що запобігають шахрайству.

Тим часом стартап уже отримує перший дохід, за словами Падманабхуні, і щомісяця обробляє понад 100 000 дзвінків для фінансових установ в Індії. Ці дзвінки здійснюють голосові агенти зі штучним інтелектом, які займаються стягненням боргів і нагадують про документи щодо кредитів; на кожному дзвінку застосовуються виявлення дипфейків і верифікація мовця (підтвердження того, що абоненти є тими, за кого себе видають). Вона відмовилася назвати клієнтів, пославшись на угоди про конфіденційність.

Падманабхуні каже, що почала працювати у сфері машинного навчання у 12 років, а згодом вивчала кіберфізичні системи (технологію, що поєднує програмне забезпечення з фізичними механізмами) в Інституті технологій Маніпала в Індії, де, за її словами, стала наймолодшою керівницею команди в тому, що вона називає першим в Індії підрозділом безпілотних гоночних автомобілів у межах Formula Student — міжнародного студентського інженерного конкурсу.

На запитання про найприємніший для стартапу момент на цей час вона розповідає про невелике бета-тестування у WhatsApp, під час якого користувачі пересилають підозрілі голосові повідомлення й отримують оцінку того, чи справжні вони. Один із тестувальників, чиїх власних родичів ошукали, зателефонував і сказав, що без вагань платив би за цей сервіс. «У мого дідуся такого не було», — каже вона.

Поки що DetectifAI залучила невелику початкову інвестицію від інвесторів Джоша Констіна (колишнього редактора TechCrunch) і Манохара Камата, партнера консалтингової компанії KM Growth. Компанія стала одним зі стартапів, перевірених редакційною командою TechCrunch для участі у престижному конкурсі Startup Battlefield, який відбудеться на заході TechCrunch Disrupt 13–15 жовтня в центрі Сан-Франциско.