WhatsApp测试端侧AI反诈功能，消息无需上传云端即可识别诈骗
项目背景
当前即时通讯领域诈骗消息高发，用户对个人数据隐私保护的需求不断提升，行业需要探索在不触碰用户隐私数据的前提下实现有效反诈的技术方案。 本案例依据「InfoQ 中文」公开发布的信息整理，原文：https://www.infoq.cn/article/wAVlMqVg7fqPjXAyFDjC?utm_source=rss&utm_medium=article
面临的痛点
即时通讯场景中非联系人发送的诈骗消息容易给用户造成财产损失，传统基于云端的反诈检测方案需要上传用户聊天内容，存在隐私泄露的隐患。
优秘的方案
推出端侧运行的可选反诈功能Scam Alert，聊天消息分类检测完全在用户本地设备完成，同时结合多重隐私技术实现模型性能统计、安全分发，兼顾反诈效果与用户隐私保护需求。
端侧机器学习机密计算差分隐私机密联邦分析
实施路径
1
基于用户此前举报的诈骗对话模式训练小型机器学习模型，用户选择启用后将模型下载到本地设备运行
2
利用对话结构和语言信号评估非联系人发来的消息，识别到疑似诈骗时向用户发送发送者不可见的警告，支持用户选择屏蔽、举报、标记对话为可信等操作
3
将消息分类与性能衡量流程分离，本地汇总警告事件和用户操作指标，通过匿名方式上传后在可信执行环境内处理，仅向平台提供聚合后的匿名统计数据
4
通过第三方仅追加透明度账本公示模型版本及哈希值，客户端加载模型前验证合法性，模型实验分组在本地完成，避免服务器为单个用户定向投放模型
5
扩大Bug Bounty计划覆盖范围，将机密联邦分析管线纳入其中，开放相关二进制文件与隐私相关源代码供独立安全审查
落地成效
想成为下一个成功案例？
预约专属顾问，结合你的行业与规模，给出可落地的 AI 化方案
优秘智能