[论文解读] Confidential Deep Learning: Executing Proprietary Models on Untrusted Devices

Peter M. VanNostrand, Ioannis Kyriazis+3 more|arXiv (Cornell University)|Aug 28, 2019

Privacy-Preserving Technologies in Data参考文献 12被引用 18

一句话总结

本文提出利用ARM TrustZone在不受信任的移动设备上机密执行专有深度学习模型，通过可信执行环境（Trusted Execution Environment, TEE）保护模型权重和推理逻辑。提出一种基于层的模型分割策略，将关键组件运行在安全世界中，同时将性能开销降至最低，展示了在边缘AI部署中保护知识产权的可行路径。

ABSTRACT

Performing deep learning on end-user devices provides fast offline inference results and can help protect the user's privacy. However, running models on untrusted client devices reveals model information which may be proprietary, i.e., the operating system or other applications on end-user devices may be manipulated to copy and redistribute this information, infringing on the model provider's intellectual property. We propose the use of ARM TrustZone, a hardware-based security feature present in most phones, to confidentially run a proprietary model on an untrusted end-user device. We explore the limitations and design challenges of using TrustZone and examine potential approaches for confidential deep learning within this environment. Of particular interest is providing robust protection of proprietary model information while minimizing total performance overhead.

研究动机与目标

• 解决在不受信任的终端用户设备上执行专有深度学习模型时的机密性问题。
• 探索在ARM TrustZone的可信执行环境（TEE）中运行DNN推理的可行性及其性能权衡。
• 设计一种在TEE中平衡安全性、性能与内存约束的模型分割策略。
• 识别并缓解基于TEE的深度学习执行中的侧信道漏洞。
• 为移动设备上安全、可投入生产的机密推理建立基础。

提出的方法

• 利用ARM TrustZone创建硬件隔离的安全世界，用于机密模型执行，与不受信任的普通世界操作系统相分离。
• 采用OP-TEE作为TEE实现，通过RSA签名的可信应用和安全内存隔离来强制执行代码完整性。
• 提出一种通用的基于层的分割方法，允许DNN的单个层在安全世界中执行，不同于以往的两部分分割。
• 引入受Sutton等人启发的分支执行分割，实现非均匀的层分布，以优化性能与内存使用。
• 依赖远程认证来验证可信应用的完整性，并通过安全启动建立信任根。
• 设计数据无关的执行机制，以防御侧信道泄露，如内存访问模式和时序变化。

实验结果

研究问题

• RQ1 如何在不受信任的移动设备上安全执行专有深度学习模型，而无需暴露模型权重或架构？
• RQ2 在受限安全内存条件下，通过ARM TrustZone的TEE运行DNN推理时，其性能与工程实现的权衡如何？
• RQ3 如何将模型分割策略从两部分分割推广至更广范围，以提升TEE中的性能与内存利用率？
• RQ4 基于TEE的深度学习中存在哪些侧信道漏洞，以及如何通过算法硬化加以缓解？
• RQ5 需要哪些系统级机制（如密钥管理、远程认证）来实现机密模型的安全、可扩展部署？

主要发现

• 基于层的分割策略可对在安全世界中执行的模型组件实现细粒度控制，相比单体或两部分分割，显著提升了内存效率与性能。
• 采用分支执行分割可避免将整个模型卸载至不受信任环境，从而实现更好的负载均衡与更低的延迟。
• 由于内存隔离和系统调用支持有限，TEE执行本身存在显著性能开销，但通过分割策略可有效缓解其影响。
• 侧信道攻击仍是关键威胁，尤其通过可观察的执行模式（如内存访问与时序）体现，因此必须采用数据无关的算法设计。
• 远程认证与安全密钥分发对验证可信应用完整性及大规模保护模型机密性至关重要。
• 硬件信任根与安全启动是防止TEE操作系统被篡改的必要条件，凸显了与设备制造商协作的必要性。