Meta 為旗下 WhatsApp 公佈名為 Scam Alert 的新功能，利用裝置端人工智能模型分析非聯絡人發出的訊息，偵測潛在詐騙並向用戶發出警示，整個分析過程訊息內容不會離開裝置，功能現正以有限度形式在 Beta 版本推行測試，配合 Meta 擴大的 Bug Bounty 計劃邀請安全研究員一同檢視系統。
裝置運算找出詐騙 訊息不上傳伺服器
用戶開啟 Scam Alert 後，系統會下載一個機器學習模型到手機，模型根據用戶過往舉報的詐騙對話學習語言結構及對話模式，從而判斷非聯絡人發來的訊息是否屬於已知詐騙手法，整個判斷過程完全在裝置內完成，WhatsApp 及 Meta 均無法看到訊息內容，亦不會自動將任何資料傳送到伺服器。只有當用戶主動舉報，伺服器才會接收到相關內容，做法與現有 WhatsApp 舉報機制一致。
用戶可選擇信任 封鎖或舉報對象
模型一旦判斷訊息可能屬詐騙，會在對話框內顯示警示，對方看不到這個提示，用戶可自行決定封鎖、舉報，或繼續對話。若用戶認為警示錯誤，可將對話標記為「信任」，系統之後不會再對該聯絡人發出警示；用戶亦可選擇性地分享最近 5 則訊息給 WhatsApp，協助改善模型準確度。網絡安全機構 Malwarebytes 分析指出，這功能不會直接封鎖任何訊息，主要作用是提醒用戶停一停、想一想才回應。報道亦提醒，若詐騙訊息來自已被盜用的聯絡人帳戶，由於對方本身已在聯絡人名單內，功能未必會觸發警示。
模型公開讓外界獨立驗證
為防止 Meta 或 WhatsApp 向個別用戶派發特製模型，每個模型版本連同 SHA-256 雜湊值都會先公開記錄在第三方不可篡改的透明分類帳，之後才向外發送，下載請求經 OHTTP 中繼伺服器處理並剔除用戶 IP 地址，配合匿名憑證驗證，令伺服器無法得知是哪部裝置提出請求。Meta 同時公開模型權重，讓獨立安全研究員驗證系統只用於偵測詐騙，不會被挪用作其他用途。
保密聯合分析量度成效
要評估功能是否奏效，WhatsApp 需要知道警示觸發次數及用戶反應，但不會接觸個別訊息內容，相關統計數字經由建基於可信執行環境 (TEE) 的保密聯合分析管道處理，結果套用差分私隱技術加入雜訊，再以達到最低群組人數門檻的匿名統計形式交回 WhatsApp，確保任何單一用戶的資料都不會被還原。
來源：Meta Engineering