在一個深層假聲音騙過她的祖父後，這位創辦人立刻行動起來
當電話響起時，塔里尼·帕德瑪納布尼的祖父以為他是在和兄弟說話。電話那頭的聲音說他被綁架了，唯一能把他帶回來的方法就是付贖金。祖父付了錢，後來才知道哥哥根本不在別的地方，完全不知道這一切發生了什麼。結果發現，那個聲音其實是深度偽造，是AI生成的模仿。
那大約是兩年前的事了。她說，如今她創立的舊金山公司 DetectifAI 旨在確保其他人不會被同樣的方式欺騙。
這是一個龐大且日益增長的問題，市場也必須相應地應對。根據聯邦調查局（FBI）的資料，去年美國人因人工智慧驅動的詐騙損失近9億美元，較2024年成長了24%。60歲及以上的人減重是50至59歲者的兩倍。
深度偽造語音偵測領域競爭激烈，來自 Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safe 以及 Nuance（Microsoft 同時擁有）等公司。但現今的偵測產品運行於遠端伺服器的雲端，因此手機製造商無法直接將偵測產品內建於裝置中，Padmanabhuni 表示，這使得被攻擊者幾乎沒有防禦手段。
DetectifAI 表示，他們從一開始就設計出足夠小巧、能在智慧型手機作業系統中運行的大型雲端模型，而非像某些公司那樣將大型雲端模型縮小到適合手機運作。目標是在通話、語音訊息及其他音訊中即時判斷語音是否由 AI 生成，且音訊不會離開裝置。
DetectifAI 首先銷售給手機製造商，授權其軟體工具，讓偵測功能能作為手機作業系統內建功能。Padmanabhuni 的比喻是 AT&T 在最初 iPhone 發表中的角色，當時該電信業者的獨家合作讓它與競爭對手區隔開來：她表示，首家出貨 DetectifAI 的手機製造商將獲得競爭優勢。由於技術錯誤，本影片無法播放。（錯誤代碼：102006）
產品核心是 DetectifAI 的軟體開發套件（SDK），這是一套其他公司可內建於產品中的程式碼，並可透過現有管道授權。Padmanabhuni 表示，次要收入來源將來自將技術授權給企業及防詐騙公司。
同時，根據Padmanabhuni的說法，這家新創公司已經有早期收入，每月為印度金融機構處理超過10萬通電話。這些電話由AI語音代理接駁，負責債務催收並追蹤貸款文件，並透過深度偽造偵測和喇叭驗證（確認來電者身份）來電。Padmanabhuni 拒絕透露客戶姓名，理由是保密協議。
Padmanabhuni 表示，她 12 歲開始從事機器學習工作，後來在印度 Manipal 理工學院學習網路物理系統（將軟體與實體機械連結的技術），她說她在那裡成為印度首個無人駕駛賽車部門 Formula Student 最年輕的車隊領隊，該組別是國際學生工程競賽。
目前 DetectifAI 已從投資人 Josh Constine 和顧問服務公司 KM Growth 的負責人 Manohar Kamath 籌集了少量種子資金。這家公司是 TechCrunch 編輯團隊審核的其中一家新創公司，將參加其享有盛譽的 Startup Battlefield 競賽，該競賽將於 10 月 13 日至 15 日在舊金山市中心舉行的 TechCrunch Disrupt 舉行。
