[论文解读] MgX: Near-Zero Overhead Memory Protection with an Application to Secure DNN Acceleration

Weizhe Hua, Muhammad Umar+2 more|arXiv (Cornell University)|Apr 20, 2020

Adversarial Robustness in Machine Learning参考文献 55被引用 4

一句话总结

MgX 是一种针对硬件加速器的近零开销内存保护方案，通过利用特定应用的数据移动模式，消除了对内存中存储版本号的需求，并根据加速器数据对象自定义保护粒度。该方案在最先进的架构上对深度神经网络（DNN）推理和训练的性能开销均低于1%。

ABSTRACT

In this paper, we propose MgX, a near-zero overhead memory protection scheme for hardware accelerators. MgX minimizes the performance overhead of off-chip memory encryption and integrity verification by exploiting the application-specific aspect of accelerators. Accelerators tend to explicitly manage data movement between on-chip and off-chip memory, typically at an object granularity that is much larger than cache lines. Exploiting these accelerator-specific characteristics, MgX generates version numbers used in memory encryption and integrity verification only using on-chip state without storing them in memory, and also customizes the granularity of the memory protection to match the granularity used by the accelerator. To demonstrate the applicability of MgX, we present an in-depth study of MgX for deep neural network (DNN) and also describe implementations for H.264 video decoding and genome alignment. Experimental results show that applying MgX has less than 1% performance overhead for both DNN inference and training on state-of-the-art DNN architectures.

研究动机与目标

• 解决硬件加速器中片外内存加密和完整性验证带来的高性能开销问题。
• 通过在对象级别粒度上利用加速器特定的数据移动模式，降低内存保护成本。
• 减少对用于加密和完整性验证的版本号在片外存储的依赖。
• 根据加速器的数据移动单元自定义内存保护粒度，避免不必要的开销。
• 在真实加速器工作负载（如 DNN、H.264 解码和基因组比对）中展示其实际适用性和性能效率。

提出的方法

• 仅从片上状态生成内存加密和完整性验证所需的版本号，从而消除对片外内存中存储版本号的需求。
• 利用加速器以对象级别粒度管理数据移动（该粒度粗于缓存行）的事实，将内存保护边界与这些单位对齐。
• 使用加速器特定的控制逻辑在内部跟踪和更新版本号，避免访问外部内存以维护版本状态。
• 根据加速器的数据移动对象自定义内存保护粒度，从而减少保护操作的次数。
• 将该方案集成到加速器的数据通路中，实现在内存事务过程中高效、实时的加密和完整性验证。
• 设计保护机制时确保对应用程序透明，并与现有加速器流水线兼容。

实验结果

研究问题

• RQ1 通过利用特定应用的数据移动模式，是否能将加速器中的内存保护开销降低至近零？
• RQ2 在多大程度上可以仅使用片上状态来生成和管理加密与完整性验证所需的版本号？
• RQ3 将内存保护粒度与加速器数据移动对象对齐，对性能开销有何影响？
• RQ4 MgX 在真实加速器工作负载（如 DNN 推理和训练）中的性能影响如何？
• RQ5 MgX 是否能有效应用于 DNN 之外的多样化加速器工作负载，如视频解码和基因组比对？

主要发现

• MgX 在最先进的 DNN 架构上实现 DNN 推理的性能开销低于1%。
• MgX 在最先进的 DNN 架构上实现 DNN 训练的性能开销低于1%。
• 该方案通过仅从片上状态生成版本号，消除了在片外内存中存储版本号的需求。
• 通过将保护粒度与加速器数据移动对象对齐，MgX 减少了所需的加密和完整性检查次数。
• 该方法适用于多种加速器，包括用于 H.264 视频解码和基因组比对的加速器，展现出广泛的兼容性。
• MgX 的性能效率在不损害安全性的情况下实现，同时保持了强内存机密性和完整性保障。