[論文レビュー] Enabling Privacy-Preserving, Compute- and Data-Intensive Computing using Heterogeneous Trusted Execution Environment

Jianping Zhu, Rui Hou+10 more|arXiv (Cornell University)|Apr 9, 2019

Security and Verification in Computing参考文献 29被引用数 9

ひとこと要約

本論文では、GPU や TPU などの信頼できないアクセラレータを安全に統合することで、プライバシー保護型で高パフォーマンスなコンピューティングおよびデータ集約型（CDI）ワークロードを実現する、最初の信頼実行環境（TEE）である HETEE を紹介する。このシステムは、PCIe ベースの動的パーティショニングを管理する独立型セキュリティコントローラーを用い、セキュアな世界と非セキュアな世界の間でアクセラレータの所有権を動的に切り替える。大規模ニューラルネットワークにおける推論では12.34%、学習では9.87%のわずかなスループットオーバーヘッドを達成した。

ABSTRACT

There is an urgent demand for privacy-preserving techniques capable of supporting compute and data intensive (CDI) computing in the era of big data. However, none of existing TEEs can truly support CDI computing tasks, as CDI requires high throughput accelerators like GPU and TPU but TEEs do not offer security protection of such accelerators. This paper present HETEE (Heterogeneous TEE), the first design of TEE capable of strongly protecting heterogeneous computing with unsecure accelerators. HETEE is uniquely constructed to work with today's servers, and does not require any changes for existing commercial CPUs or accelerators. The key idea of our design runs security controller as a stand-alone computing system to dynamically adjust the boundary of between secure and insecure worlds through the PCIe switches, rendering the control of an accelerator to the host OS when it is not needed for secure computing, and shifting it back when it is. The controller is the only trust unit in the system and it runs the custom OS and accelerator runtimes, together with the encryption, authentication and remote attestation components. The host server and other computing systems communicate with controller through an in memory task queue that accommodates the computing tasks offloaded to HETEE, in the form of encrypted and signed code and data. Also, HETEE offers a generic and efficient programming model to the host CPU. We have implemented the HETEE design on a hardware prototype system, and evaluated it with large-scale Neural Networks inference and training tasks. Our evaluations show that HETEE can easily support such secure computing tasks and only incurs a 12.34% throughput overhead for inference and 9.87% overhead for training on average.

研究の動機と目的

• ビッグデータワークロードにおけるプライバシー保護型で高スループットなコンピューティングの急務なニーズに対応すること。
• 既存の TEE が GPU や TPU などのアクセラレータをネイティブにサポートしないという制限を克服すること。
• CPU やアクセラレータの変更なしに、コンmodityサーバー上で計算およびデータ集約型（CDI）ワークロードを安全に実行できること。
• 信頼できる環境と信頼できない環境の間でアクセラレータの制御を動的に可能にしつつ、強固なセキュリティを維持するシステムを設計すること。
• 安全な実行環境に CDI タスクをオフロードするための汎用的で効率的なプログラミングモデルを提供すること。

提案手法

• PCIe スイッチを制御する唯一の信頼の根拠（trust anchor）として、独立型セキュリティコントローラーを導入し、ホストOSとセキュアワールドの間でアクセラレータ所有権を動的に移行する。
• ホストシステムと HETEE コントローラー間の安全な通信に、メモリ内に暗号化され署名済みのタスクキューを活用する。
• セキュリティコントローラー内にカスタムOS、ランタイム、暗号化、認証、リモートアテステーションのコンponentsを実装する。
• ホストCPUが暗号化されたコードとデータを用いてHETEEにタスクをオフロードできる汎用的プログラミングモデルを設計する。
• 既存の商用CPUやアクセラレータに変更を加える必要がないように、後方互換性を確保する。
• PCIeベースの隔離を活用してアクセラレータを保護するとともに、高スループットなデータおよびコンピューティングワークロードを可能にする。

実験結果

リサーチクエスチョン

• RQ1 既存の TEE がネイティブに保護しないGPU や TPU などのアクセラレータを、TEE がどのように安全にサポートできるか。
• RQ2 ハードウェアを変更せずに、信頼できる世界と非信頼できる世界の間でアクセラレータへのアクセスを動的かつ細かく制御できるアーキテクチャ設計は何か。
• RQ3 独立型セキュリティコントローラーは、異種アクセラレータの信頼境界を効果的に管理しつつ、高いパフォーマンスを維持できるか。
• RQ4 大規模な機械学習ワークロードに対して、アクセラレータ統合型の安全な TEE がどれほどのパフォーマンスオーバーヘッドを負うか。
• RQ5 CDI タスクを安全な実行環境にオフロードするための汎用的で効率的なプログラミングモデルをどのように設計できるか。

主な発見

• HETEE は、プライバシー保護型で大規模ニューラルネットワークの推論および学習ワークロードを成功裏に実行できた。
• GPUアクセラレートワークロードにおける推論タスクでは、平均して12.34%のわずかなスループットオーバーヘッドにとどまった。
• 学習ワークロードでは、アクセラレータを用いる際、平均9.87%のわずかなスループットオーバーヘッドを達成した。
• セキュリティコントローラーが唯一の信頼の根拠として機能し、すべてのセキュアな操作に対して強固な隔離とリモートアテステーションを保証した。
• 設計は、既存の商用CPUやアクセラレータと完全に互換性があり、ハードウェアの変更が一切不要であった。
• メモリ内タスクキューにより、ホストとHETEE間で暗号化されたコードとデータの効率的で安全なオフロードが可能になった。