[论文解读] Confidential Machine Learning Computation in Untrusted Environments: A Systems Security Perspective

Kha Dinh Duy, Taehyun Noh+2 more|arXiv (Cornell University)|Nov 5, 2021

Security and Verification in Computing被引用 4

一句话总结

本文系统性地综述了在不受信任环境中利用可信执行环境（TEEs）进行机密机器学习计算的研究，重点关注攻击向量、多方安全需求及工程挑战。文章系统化地分析了侧信道攻击等威胁，评估了面向云和边缘部署的基于TEEs的解决方案，并指出了在安全加速器、在线训练以及集成模型保密防御等方向的未来研究路径。

ABSTRACT

As machine learning (ML) technologies and applications are rapidly changing many computing domains, security issues associated with ML are also emerging. In the domain of systems security, many endeavors have been made to ensure ML model and data confidentiality. ML computations are often inevitably performed in untrusted environments and entail complex multi-party security requirements. Hence, researchers have leveraged the Trusted Execution Environments (TEEs) to build confidential ML computation systems. We conduct a systematic and comprehensive survey by classifying attack vectors and mitigation in confidential ML computation in untrusted environments, analyzing the complex security requirements in multi-party scenarios, and summarizing engineering challenges in confidential ML implementation. Lastly, we suggest future research directions based on our study.

研究动机与目标

• 系统分析在云和边缘平台等不受信任环境中，机密机器学习计算所面临的安全威胁及其缓解策略。
• 研究在涉及模型所有者、数据贡献者和服务提供商等互不信任实体的多方机器学习场景中所产生的复杂安全需求。
• 识别并解决实现机密机器学习系统过程中的关键工程挑战，包括TEEs内存限制和机器学习框架移植问题。
• 探索边缘机密机器学习、安全加速器和具备保密性保障的在线训练等尚未充分研究的研究方向。
• 提出一个全面且面向未来的科研议程，以推动实际应用中安全且机密的机器学习系统的发展。

提出的方法

• 对TEEs保护下的机器学习计算中的攻击向量进行分类与分析，尤其关注针对Intel SGX和ARM TrustZone的侧信道攻击。
• 调研超过140篇相关工作，以评估基于TEEs的机密机器学习系统，重点聚焦于面向云环境的Intel SGX和面向边缘计算的ARM TrustZone。
• 分析机密机器学习中的多方安全需求，包括模型所有者、数据提供者和平台运营商之间的信任权衡。
• 评估工程上的权衡，如因TEEs内存限制导致的批处理大小减小，以及将PyTorch和TensorFlow等机器学习框架移植到TEEs所面临的挑战。
• 提出未来安全加速器（如GPU、NPU）的系统设计方案，使其能够原生支持机密机器学习工作负载而不损害保密性。
• 将系统内侧信道攻击（如侧信道）与外部威胁（如基于API的模型重构攻击）相结合，倡导对模型保密性实施端到端的综合保护。

实验结果

研究问题

• RQ1 在TEEs保护下的机器学习计算中，威胁模型和数据保密性的主要系统内攻击向量是什么？
• RQ2 机器学习工作流中多方之间的信任动态如何影响机密机器学习系统的架构设计与安全保证？
• RQ3 在TEEs上部署机密机器学习所面临的关键工程挑战是什么，特别是内存限制和框架移植方面？
• RQ4 在支持机密在线训练和安全硬件加速器方面，仍存在哪些开放的研究挑战？
• RQ5 如何协同缓解系统内侧信道攻击与外部基于API的模型反演攻击，以确保端到端的模型保密性？

主要发现

• 侧信道攻击仍是TEEs保护下的机器学习计算的主要威胁，尤其在使用Intel SGX的云环境中，已展示出多种实际可利用的攻击向量。
• 尽管对设备端和边缘机器学习安全的需求日益增长，基于ARM TrustZone的机密机器学习系统研究仍明显不足。
• 当前基于TEEs的机器学习系统因内存受限而面临显著的性能与可扩展性限制，通常需要将工作负载拆分为更小的批次。
• 将PyTorch和TensorFlow等主流机器学习框架移植到TEEs中极为复杂，且导致可信代码基大幅增加，从而扩大了攻击面。
• 目前尚无商业化的安全加速器（如GPU或NPU）原生支持机密机器学习工作负载，尽管Graviton和SafeTPU等原型设计显示出前景。
• 系统内侧信道攻击与外部基于API的模型重构攻击的联合威胁尚未被充分研究，凸显了在全面模型保密性保护方面存在的关键空白。