Google DeepMind與新加坡政府科技局合作，微調了一款端側騙局識別模型。該模型以輕量級的Gemma為基礎，學習當地常見的假冒政府機構、銀行和公眾人物等騙局對話，並計劃在用戶同意後，由手機直接分析會話、發出實時提醒。這個方案旨在解決一組長期存在的問題：騙局越來越依賴長時間的社會工程學技巧，而端到端加密又不允許平台隨意讀取消息。將判斷放在設備上，既有可能縮短預警時間，也會將權限、誤報和設備性能問題帶到每一部手機中。

騙局早已不只是一個可疑鏈接

官方資料指出，騙案佔了新加坡已報告犯罪案件的一半以上，2019年以來造成的損失超過40億新元。攻擊方式也從簡單的釣魚轉向更有耐心的對話操縱：假客服先建立信任，假投資顧問不斷解釋收益，冒充官員的人則用緊迫感迫使受害者轉賬。此類社會工程學造成的損失可佔全部騙案損失的八成。

傳統規則擅長識別網址、電話號碼和關鍵詞，卻很難理解一段對話是如何逐步改變人的判斷的。同一句「把錢轉到安全賬戶」，單獨看可能只是普通討論，但在連續的身份冒充、威脅和催促之後才顯出危險。端側模型需要做的不是查找一個禁詞，而是從較長的上下文中識別操縱模式。這也是它必須學習當地機構名稱、語言習慣和近期騙局的原因。

兩階段識別是為了節電，也是為了減少誤報。

在手機上持續運行複雜模型會消耗電量和運算能力。DeepMind 介紹的方案採用兩階段流程：前一階段使用較輕量的檢測方法篩選可疑信號，後一階段再調用微調後的 Gemma 分析更大的對話片段，確認威脅或排除誤報。只有出現足夠強的跡象時，系統才進行更深入的判斷。

這種設計同時服務於性能和準確率。如果每條消息都觸發完整的推論，用戶可能會因為耗電、延遲或頻繁提醒而關閉該功能；如果篩選過於激進，又會漏掉緩慢進行的騙局。反詐系統真正的難點不在於在實驗室裏識別一個典型的騙局，而在於在真實手機上長期運行，並讓提醒數量保持在用戶願意相信的範圍內。

端側處理改變了「誰能看見消息」

項目強調，對話在設備本地上處理，Google 和新加坡政府不會因為模型部署而獲得用戶聊天內容。模型進入應用後，也只有在用戶同意並遵守該應用使用條款的情況下才能訪問設備上的會話。訓練數據不包含公民私人信息或可識別個人身份的信息，而是使用來自騙局報告和情報材料的匿名化數據；微調在新加坡政府管理的雲環境中完成。

這些安排減少了將私人訊息集中上傳到雲端的风險，但「在本地運行」並不代表就沒有隱私問題。應用程式仍需明確說明會讀取哪些會話內容、保存什麼樣的日誌、警報是否會被回傳，以及用戶如何撤銷授權。如果設備被他人控制、系統組件存在漏洞，或應用程式將這些風險防護機制用於其他目的，也有可能造成新的隱私傷害。隱私保護是一套持續的權限設計，並非只要「數據不上雲」就萬事大吉了。

誤報和漏報都會影響真實的決定。

當模型將正常的對話標記為詐騙時，用戶可能會錯過合法的銀行通知、工作機會或家庭匯款；當模型沒有報警時，用戶又可能將沉默理解為安全保證。因此，反詐提醒必須說明自己的角色：它是一個暫停並核對的信號，而不是代表用戶或執法機構給出最終的定性。最有用的提醒應該提供可執行的動作，例如停止轉賬、通過官方渠道回撥、不要分享驗證碼，並保留讓用戶查看原因和反饋錯誤的入口。

本地化數據也會隨時間失效。騙局團體會更換話術、混用語言，甚至反過來研究提示規則。模型需要持續更新，但每次更新都可能改變誤報分佈。政府與平台應公開測試範圍、主要限制和申訴渠道，並按不同語言、年齡群體和設備性能評估效果，避免平均準確率掩蓋特定人群所遭受的誤傷。

反詐技術最終要與金融流程接上

手機在轉賬前會發出警告，但這只能爭取到幾分鐘的時間。如果銀行、支付平臺和警方沒有快速的凍結、核實和報案流程，用戶仍可能在對方的催促下繼續操作。一個有效的防線需要將端側識別與交易限額、異常收款賬戶、可信聯絡人以及官方查詢工具結合起來。模型能夠理解對話，而金融系統則能夠看到資金的流向，兩者承擔著不同的責任。

這項合作目前仍計畫分階段進入應用，官方並未將其描述為已經覆蓋所有手機的成熟服務。它提供了一條值得觀察的途徑：在不集中讀取私人消息的前提下，讓設備能夠理解騙局。不過，真正的成功標準並非模型在演示中識別出了多少案例，而是用戶是否願意開啟該功能、提醒是否夠可信、受害金額是否下降，以及錯誤判斷能否被及時糾正。隱私與安全並非非此即彼的選擇，但兩者都需要接受長期的檢驗。