Tarini Padmanabhuni接到电话时，她的祖父以为自己正在和兄弟通话。电话那头的声音说，他的兄弟被绑架了，想把人救回来，唯一办法就是支付赎金。她的祖父照做了，后来才发现，他的兄弟其实一直在别处，对这一切毫不知情。事后证明，那段声音是深度伪造——一段由AI生成、模仿他兄弟声音的音频。

“真正让我留下印象的不是钱，”Padmanabhuni谈到这起事件时说，“而是他根本没有办法分辨。”

那大约是两年前的事。如今，她表示，自己创立的旧金山公司DetectifAI的目标，就是确保其他人不会以同样的方式上当。

这已经是一个规模不小且仍在增长的问题，市场也与之相匹配。根据FBI的数据，美国人去年因AI驱动的诈骗损失接近9亿美元，较2024年增长24%。60岁及以上人群的损失是50至59岁人群的两倍。

在深度伪造语音检测领域，竞争并不少见，相关公司包括Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety以及Nuance（微软也拥有该公司）。不过，Padmanabhuni认为，如今的检测产品都运行在云端远程服务器上，因此手机制造商无法将其直接内置到设备中，这让被针对的人几乎没有防御手段。

DetectifAI并不是像一些公司那样把大型云模型缩小到能装进手机里，而是从一开始就设计小型AI模型，使其足够在智能手机操作系统内部运行。该公司的目标是在通话、语音消息及其他音频中，立即判断声音是否由AI生成，而且音频无需离开设备。

DetectifAI首先面向手机制造商销售，授权其软件工具，以便将检测功能作为手机操作系统的内置特性推出。Padmanabhuni打了一个比方：这类似于AT&T在初代iPhone发布时所扮演的角色，当时运营商的独家合作让它区别于竞争对手。她认为，第一家搭载DetectifAI的手机厂商将获得相对竞争优势，深度伪造检测也会像摄像头分辨率一样，成为一项标准配置。

该产品的核心是DetectifAI的软件开发工具包（SDK），即一套可供其他公司集成到自己产品中的代码包，也可以通过现有渠道授权。Padmanabhuni表示，第二条收入来源将来自向企业和反欺诈公司授权这项技术。

与此同时，这家初创公司已经有了早期收入，Padmanabhuni称，其在印度为金融机构每月处理超过10万通电话。这些电话由AI语音代理拨打，用于催收债务和跟进贷款文件，而每通电话都配有深度伪造检测和说话人验证（确认来电者是否为其自称的人）。由于保密协议，她拒绝透露客户名称。

Padmanabhuni说，她12岁就开始从事机器学习，后来在印度马尼帕尔理工学院学习赛博物理系统——即连接软件与物理机械的技术。她表示，自己在那里成为了她所称的印度首个无人驾驶赛车部门中最年轻的团队负责人。

被问及创业至今最有成就感的时刻时，她提到了一次规模不大的WhatsApp测试：用户可以转发可疑语音消息，并收到一份关于其真实性的评估。某位测试者自己的亲属曾遭遇诈骗，随后打电话说，他们愿意毫不犹豫地为这项服务付费。“我的祖父没有这样的工具，”她说。

Padmanabhuni表示，DetectifAI迄今已从投资者Josh Constine（前TechCrunch编辑）和KM Growth咨询服务公司的负责人Manohar Kamath那里筹集到一小笔种子资金。该公司还是TechCrunch编辑团队筛选出的初创企业之一，将参加TechCrunch Disrupt大会的Startup Battlefield竞赛，该活动将于10月13日至15日在旧金山中心城区举行。