隐私工程观察｜微行研究组
说明：本文依据Google Research公开说明和预印本整理；技术保证仍受可信执行硬件及其已知限制影响。

Google Research近日介绍了一套面向联邦学习的新系统，试图让设备数据参与模型训练时，外部审计者能够检查服务器实际运行了什么程序。系统使用可信执行环境（TEE）：设备先加密上传训练数据，并预先授权允许处理数据的程序；相关访问策略会写入公开透明日志，服务器端的密钥服务只向符合策略的受信任工作负载提供解密密钥。

与传统联邦学习容易被简化成“原始数据不离开设备”不同，这套方案把计算移到服务器端的受保护环境中，再结合差分隐私输出模型参数或统计结果。Google称，Gboard已用该系统训练英文和日文下一词预测模型，并获得更快训练和更好的准确率。这里的产品效果与性能比较仍是公司报告的结果，独立团队还需复核不同任务下的隐私—效用权衡。

可验证性不等于硬件没有弱点

这项工作的价值，在于它把“相信服务商确实加了噪声、没有记录原始数据”部分转化为可审计的计算流程：访问策略公开、程序可复现构建，外部观察者可以检查获准运行的工作负载。但TEE并非无条件安全。Google和论文都承认当前代硬件存在限制，侧信道观察等问题仍需研究；公开日志也不能替代对实现、密钥管理和供应链的审查。

组织若考虑采用类似架构，除了确认原始数据加密和差分隐私参数，还应查看谁能更新白名单程序、更新是否留下不可篡改记录、密钥在何种条件下释放，以及设备用户能否理解和撤销授权。真正的审计也要包含故障恢复和异常访问测试，而不能只验证正常路径。

这类系统的长期意义，是尝试把隐私承诺从企业政策变成技术上可检查的约束。但“外部可验证”仍需明确验证者能看到什么、看不到什么，以及信任最终落在哪些硬件和软件组件上。它是比单方面承诺更强的一步，不是无需信任的终点。

参考来源：Google Research：可验证隐私的联邦学习系统；论文预印本：联邦学习中的可验证差分隐私保证。