[論文レビュー] MgX: Near-Zero Overhead Memory Protection with an Application to Secure DNN Acceleration

Weizhe Hua, Muhammad Umar+2 more|arXiv (Cornell University)|Apr 20, 2020

Adversarial Robustness in Machine Learning参考文献 55被引用数 4

ひとこと要約

MgX は、アプリケーション固有のデータ移動パターンを活用することで、メモリにバージョン番号を格納する必要を排除し、アクセラレータのデータオブジェクトに合わせて保護の粒度をカスタマイズする、ハードウェアアクセラレータ向けの近似的にオーバーヘッドがゼロに近いメモリ保護方式である。最新のアーキテクチャにおいて、DNN推論および学習の両方で1%未塔のパフォーマンスオーバーヘッドを達成している。

ABSTRACT

In this paper, we propose MgX, a near-zero overhead memory protection scheme for hardware accelerators. MgX minimizes the performance overhead of off-chip memory encryption and integrity verification by exploiting the application-specific aspect of accelerators. Accelerators tend to explicitly manage data movement between on-chip and off-chip memory, typically at an object granularity that is much larger than cache lines. Exploiting these accelerator-specific characteristics, MgX generates version numbers used in memory encryption and integrity verification only using on-chip state without storing them in memory, and also customizes the granularity of the memory protection to match the granularity used by the accelerator. To demonstrate the applicability of MgX, we present an in-depth study of MgX for deep neural network (DNN) and also describe implementations for H.264 video decoding and genome alignment. Experimental results show that applying MgX has less than 1% performance overhead for both DNN inference and training on state-of-the-art DNN architectures.

研究の動機と目的

• ハードウェアアクセラレータにおけるオフチップメモリ暗号化および整合性検証の高いパフォーマンスオーバーヘッドを解消すること。
• アクセラレータ固有のデータ移動パターンを活用して、オブジェクトレベルの粒度でメモリ保護コストを低減すること。
• 暗号化および整合性検証に使用されるバージョン番号のオフチップストレージへの依存を最小限に抑えること。
• アクセラレータのデータ移動ユニットに合わせてメモリ保護の粒度をカスタマイズし、不要なオーバーヘッドを回避すること。
• 実世界のアクセラレータワークロード（例：DNN、H.264デコード、ゲノムアラインメント）における実用性およびパフォーマンス効率を実証すること。

提案手法

• バージョン番号をオフチップメモリに格納する必要を排除するため、オンチップ状態からのみ生成する。
• アクセラレータがオブジェクトレベルの粒度（キャッシュラインよりも粗い）でデータ移動を管理しているという事実を活用し、メモリ保護境界をこれらのユニットと一致させる。
• アクセラレータ固有の制御論理を用いて、バージョン番号を内部で追跡および更新し、バージョン状態の外部メモリアクセスを回避する。
• アクセラレータのデータ移動オブジェクトに合わせてメモリ保護の粒度をカスタマイズすることで、保護処理の回数を削減する。
• アクセラレータのデータパスにこの方式を統合し、メモリトランザクション中に効率的かつリアルタイムに暗号化および整合性検証を実行できるようにする。
• アプリケーションに対して透過的であり、既存のアクセラレータパイプラインと互換性があるように保護メカニズムを設計する。

実験結果

リサーチクエスチョン

• RQ1 アプリケーション固有のデータ移動パターンを活用することで、アクセラレータにおけるメモリ保護のオーバーヘッドを近似的にゼロに抑えることができるか？
• RQ2 暗号化および整合性検証用のバージョン番号を、オンチップ状態のみで生成および管理できる範囲はどの程度か？
• RQ3 アクセラレータのデータ移動オブジェクトに合わせてメモリ保護の粒度を整えると、パフォーマンスオーバーヘッドにどのような影響を与えるか？
• RQ4 MgX は、DNN推論および学習を含む実世界のアクセラレータワークロードに、どの程度のパフォーマンス影響を与えるか？
• RQ5 MgX は、DNN以外の多様なワークロード（例：動画デコード、ゲノムアラインメント）に対しても効果的に適用可能か？

主な発見

• MgX は、最新のDNNアーキテクチャにおいて、DNN推論で1%未塔のパフォーマンスオーバーヘッドを達成している。
• MgX は、最新のDNNアーキテクチャにおいて、DNN学習で1%未塔のパフォーマンスオーバーヘッドを達成している。
• この方式により、バージョン番号をオフチップメモリに格納する必要がなくなり、オンチップ状態からのみ生成される。
• アクセラレータのデータ移動オブジェクトに合わせて保護の粒度を整えることで、暗号化および整合性チェックの回数が削減された。
• このアプローチは、H.264動画デコードやゲノムアラインメント用のアクセラレータを含む多様なアクセラレータに適用可能であり、広範な互換性を示している。
• MgX は、セキュリティを損なわず、強固なメモリ機密性および整合性保証を維持したまま、パフォーマンス効率を達成している。