След като дийпфейк глас измами дядо ѝ, тази основателка предприе незабавни действия

Когато се обадили, дядото на Тарини Падманабхуни повярвал, че разговаря с брат си. Гласът от другата страна на линията казал, че е бил отвлечен и че единственият начин да го върнат е да бъде платен откуп. Дядо ѝ платил, само за да разбере по-късно, че брат му през цялото време е бил на съвсем друго място и дори не е подозирал какво се случва. Оказало се, че гласът е дийпфейк — генерирана от изкуствен интелект имитация.

„Това, което остана в съзнанието ми, не бяха парите“, казва Падманабхуни за случилото се. „А фактът, че той не е имал никакъв начин да разбере.“

Това се случило преди около две години. Днес тя казва, че DetectifAI, базираната в Сан Франциско компания, която е основала, има за цел да гарантира, че други хора няма да бъдат измамени по същия начин.

Това е голям и разрастващ се проблем, който има и съответстващ пазар. Според ФБР миналата година американците са загубили близо 900 милиона долара заради измами, извършени с помощта на изкуствен интелект — с 24% повече спрямо 2024 г. Хората на 60 и повече години са загубили два пъти повече от тези на възраст между 50 и 59 години.

Конкуренцията при откриването на дийпфейк гласове не липсва — сред компаниите в тази сфера са Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (която също е собственост на Microsoft). Но според Падманабхуни днешните продукти за откриване работят в облака, на отдалечени сървъри, така че производителите на телефони не могат да ги вградят директно в устройствата си, оставяйки набелязания човек с малко възможности за защита.

Вместо да свива големи облачни модели, за да могат да работят на телефон, както правят някои компании, DetectifAI твърди, че от самото начало проектира компактни модели на изкуствен интелект, достатъчно малки, за да работят в операционната система на смартфона. Целта е по време на разговори, в гласови съобщения и при други видове аудио да се предоставя незабавна оценка дали гласът е генериран от изкуствен интелект, без аудиото изобщо да напуска устройството.

DetectifAI първоначално продава продукта си на производители на телефони, като лицензира софтуерните си инструменти, така че функцията за откриване да бъде доставяна като вградена част от операционната система на телефона. Нейната аналогия е ролята на AT&T при премиерата на оригиналния iPhone, когато ексклузивното споразумение на оператора го отличи от конкурентите му: първият производител на телефони, който пусне DetectifAI, ще получи предимство пред конкурентите, твърди тя, а откриването на дийпфейкове ще се превърне в стандартна характеристика, подобно на разделителната способност на камерата.

Ядрото на продукта е софтуерният комплект за разработка (SDK) на DetectifAI — пакет от код, който други компании могат да вграждат в своите продукти и който може да бъде лицензиран чрез съществуващите канали. Падманабхуни казва, че вторичен източник на приходи ще бъде лицензирането на технологията на компании и фирми, специализирани в предотвратяването на измами.

Междувременно стартъпът вече има първи приходи, според Падманабхуни, и обработва повече от 100 000 разговора месечно за финансови институции в Индия. Разговорите се осъществяват от гласови агенти с изкуствен интелект, които се занимават със събиране на дългове и проследяване на документи по кредити, като при всеки разговор се извършват откриване на дийпфейкове и верификация на говорещия (потвърждение, че обаждащите се са тези, за които се представят). Тя отказа да назове клиентите, позовавайки се на споразумения за поверителност.

Падманабхуни казва, че е започнала да работи в областта на машинното обучение на 12-годишна възраст, а по-късно е изучавала киберфизични системи (технология, която свързва софтуер с физически машини) в Технологичния институт „Манипал“ в Индия, където по думите ѝ е станала най-младият ръководител на екип в първото в Индия подразделение за безпилотни състезателни автомобили във Formula Student — международно инженерно състезание за студенти.

Попитана кой е най-удовлетворяващият момент за стартъпа досега, тя посочва малък бета тест в WhatsApp, при който потребителите препращат подозрителни гласови съобщения и получават оценка дали са истински. Един от тестовите потребители, чиито близки сами били станали жертва на измама, се обадил, за да каже, че би платил за услугата без колебание. „Дядо ми не е имал такава възможност“, казва тя.

Досега DetectifAI е набрала малка начална инвестиция от инвеститорите Джош Констайн (бивш редактор в TechCrunch) и Манохар Камат, директор в консултантската фирма KM Growth. Компанията е сред стартъпите, одобрени от редакционния екип на TechCrunch за участие в престижното състезание Startup Battlefield, което ще се проведе по време на TechCrunch Disrupt от 13 до 15 октомври в центъра на Сан Франциско.