Meta 如何在不破解加密的前提下，让 WhatsApp 学会「反诈骗」？

起因：一个加密应用的「电车难题」

WhatsApp 拥有超过 20 亿用户，其卖点是端到端加密——连 Meta 自己都看不到你的聊天内容。但诈骗分子也看中了这一点：在加密的庇护下，平台很难检测诈骗消息。随着 AI 生成的诈骗话术越来越逼真，WhatsApp 面临一个两难困境：要么放弃部分加密原则去扫描内容，要么放任用户被骗。Meta 这次发布的 Scam Alert 功能，试图走出第三条路：在不触碰消息内容的前提下，让手机自己学会识别诈骗。

拆解：端上模型是如何工作的？

传统的内容审核依赖服务器端分析，意味着消息必须先上传。Scam Alert 的做法完全不同——它把一个小型机器学习模型直接下载到用户手机上，在本地分析收到的消息。这个模型不是逐字审查内容，而是通过「对话结构」和「语言信号」做概率判断。比如，一个陌生人突然发来一条包含「紧急」「验证账户」等关键词的消息，模型会计算这是一个诈骗尝试的概率。

关键设计选择有几个：第一，模型足够小，能直接在手机上跑，不会明显影响性能和电池；第二，模型可以公开，接受独立安全研究者的审查；第三，整个过程中，没有任何内容自动上报给 Meta。用户可以选择举报，但那是用户的主动行为。

趋势洞察：「端上 AI」正在成为隐私保护的默认范式

这件事揭示了一个更大的趋势：随着端侧芯片算力的提升和模型压缩技术的进步，越来越多原本需要在服务器完成的 AI 任务，正在转移到用户设备上。苹果的设备端 Siri、谷歌的 Gboard 预测输入，到现在的 WhatsApp 端上诈骗检测，都在说明同一个方向——模型靠近数据，而不是数据靠近模型。

这对开发者来说意味着一个根本性的架构思考：如果你的 AI 应用涉及敏感数据（聊天记录、医疗信息、金融数据），端上推理可能不再是可选项，而是用户和监管机构的基本预期。

实用价值：开发者能从中学到什么？

首先，隐私设计不是功能的敌人，而是功能的约束条件。Meta 没有说「为了防诈骗我们只能扫描你的消息」，而是把约束当作创新的动力，最终做出了一个端上解决方案。其次，可验证性比承诺更重要。Meta 允许安全研究者通过漏洞赏金计划审查系统，用户也可以通过应用内日志验证自己的数据没有被偷偷上传。在 AI 时代，「信任但可验证」正在成为产品设计的黄金法则。

对于正在构建涉及用户隐私的 AI 产品的团队，这是一个很好的参考案例：如何在不违反隐私承诺的前提下，交付实际有价值的安全功能。

反常识：这个功能其实也保护了 Meta 自己

很多人可能没注意到的是，这个设计对 Meta 也有巨大好处。端上处理意味着 Meta 不需要承担「存储和处理用户诈骗消息」的法律风险。一旦消息离开设备，Meta 就可能面临各地数据保护法的审查。通过把所有处理放在端上，Meta 实际上把合规成本降到了最低，同时还能对外展示「我们在保护用户」。这是一个精妙的商业策略——用隐私保护的叙事，同时解决了用户安全、法律合规和品牌信任三个问题。

原文地址: How We’re Building Scam Alert on WhatsApp With End-to-End Encryption and Verifiability Guarantees