[论文解读] Enabling Privacy-Preserving, Compute- and Data-Intensive Computing using Heterogeneous Trusted Execution Environment

Jianping Zhu, Rui Hou+10 more|arXiv (Cornell University)|Apr 9, 2019

Security and Verification in Computing参考文献 29被引用 9

一句话总结

该论文提出了 HETEE，这是首个通过安全集成不受信任的加速器（如 GPU 和 TPU）来实现隐私保护、高性能计算与数据密集型（CDI）工作负载的可信执行环境（TEE）。它使用独立的安全控制器，通过 PCIe 实现对加速器在可信与非可信世界之间的动态分区，使大规模神经网络的推理和训练分别仅产生 12.34% 和 9.87% 的吞吐量开销。

ABSTRACT

There is an urgent demand for privacy-preserving techniques capable of supporting compute and data intensive (CDI) computing in the era of big data. However, none of existing TEEs can truly support CDI computing tasks, as CDI requires high throughput accelerators like GPU and TPU but TEEs do not offer security protection of such accelerators. This paper present HETEE (Heterogeneous TEE), the first design of TEE capable of strongly protecting heterogeneous computing with unsecure accelerators. HETEE is uniquely constructed to work with today's servers, and does not require any changes for existing commercial CPUs or accelerators. The key idea of our design runs security controller as a stand-alone computing system to dynamically adjust the boundary of between secure and insecure worlds through the PCIe switches, rendering the control of an accelerator to the host OS when it is not needed for secure computing, and shifting it back when it is. The controller is the only trust unit in the system and it runs the custom OS and accelerator runtimes, together with the encryption, authentication and remote attestation components. The host server and other computing systems communicate with controller through an in memory task queue that accommodates the computing tasks offloaded to HETEE, in the form of encrypted and signed code and data. Also, HETEE offers a generic and efficient programming model to the host CPU. We have implemented the HETEE design on a hardware prototype system, and evaluated it with large-scale Neural Networks inference and training tasks. Our evaluations show that HETEE can easily support such secure computing tasks and only incurs a 12.34% throughput overhead for inference and 9.87% overhead for training on average.

研究动机与目标

• 解决大数据工作负载中对隐私保护、高吞吐量计算的迫切需求。
• 克服现有 TEE 缺乏对 GPU 和 TPU 等加速器支持的局限性。
• 在不修改 CPU 或加速器的前提下，实现在通用服务器上对计算与数据密集型（CDI）工作负载的安全执行。
• 设计一种系统，保持强安全性的同时，实现对加速器在可信与非可信环境之间动态控制。
• 提供一种通用且高效的编程模型，支持将任务卸载至安全执行环境。

提出的方法

• 部署独立的安全控制器作为唯一信任锚点，通过管理 PCIe 交换机，动态切换加速器在主机操作系统与安全世界之间的所有权。
• 使用内存中的加密且带签名的任务队列，实现主机系统与 HETEE 控制器之间的安全通信。
• 在安全控制器内实现自定义的操作系统、运行时环境、加密机制、身份认证及远程证明组件。
• 设计一种通用编程模型，使主机 CPU 能够通过加密代码和数据将任务卸载至 HETEE。
• 通过无需修改现有商用 CPU 或加速器，确保向后兼容性。
• 利用基于 PCIe 的隔离机制，在保护加速器的同时支持高吞吐量的数据与计算工作负载。

实验结果

研究问题

• RQ1 如何使 TEE 安全支持现有 TEE 无法原生保护的加速器（如 GPU 和 TPU）？
• RQ2 何种架构设计能够实现在不修改硬件的前提下，对加速器访问在可信与非可信世界之间实现动态、细粒度的控制？
• RQ3 独立安全控制器能否有效管理异构加速器的可信边界，同时保持高性能？
• RQ4 对于大规模机器学习工作负载，安全的、集成加速器的 TEE 会带来多大的性能开销？
• RQ5 如何设计一种通用且高效的编程模型，以支持将 CDI 任务卸载至安全执行环境？

主要发现

• HETEE 能够以隐私保护的方式成功支持大规模神经网络的推理与训练工作负载。
• 在 GPU 加速的工作负载中，系统对推理任务仅产生 12.34% 的平均吞吐量开销。
• 在使用加速器的训练工作负载中，HETEE 仅产生 9.87% 的平均吞吐量开销。
• 安全控制器作为唯一信任锚点，确保所有安全操作具备强隔离性与远程证明能力。
• 该设计完全兼容现有商用 CPU 和加速器，无需硬件修改。
• 内存中的任务队列实现了主机与 HETEE 之间加密代码与数据的高效、安全卸载。