[論文レビュー] Confidential Deep Learning: Executing Proprietary Models on Untrusted Devices

Peter M. VanNostrand, Ioannis Kyriazis+3 more|arXiv (Cornell University)|Aug 28, 2019

Privacy-Preserving Technologies in Data参考文献 12被引用数 18

ひとこと要約

本論文では、信頼できないモバイルデバイス上で特許を取得した深層学習モデルを機密的に実行するためにARM TrustZoneを活用する手法を提案している。信頼実行環境（TEE）を用いてモデル重みと推論論理を保護する。重要なコンponentsをセキュアワールドで実行する一方で、パフォーマンスのオーバーヘッドを最小限に抑えるレイヤー基盤のモデル分割戦略を導入し、エッジAIへの展開における知的財産の保護に実現可能な道筋を示している。

ABSTRACT

Performing deep learning on end-user devices provides fast offline inference results and can help protect the user's privacy. However, running models on untrusted client devices reveals model information which may be proprietary, i.e., the operating system or other applications on end-user devices may be manipulated to copy and redistribute this information, infringing on the model provider's intellectual property. We propose the use of ARM TrustZone, a hardware-based security feature present in most phones, to confidentially run a proprietary model on an untrusted end-user device. We explore the limitations and design challenges of using TrustZone and examine potential approaches for confidential deep learning within this environment. Of particular interest is providing robust protection of proprietary model information while minimizing total performance overhead.

研究の動機と目的

• 信頼できないエンドユーザーのデバイス上で実行される特許を取得した深層学習モデルの機密性を確保すること。
• ARM TrustZoneの信頼実行環境（TEE）内でDNN推論を実行する際の実現可能性とパフォーマンスのトレードオフを調査すること。
• TEEにおけるセキュリティ、パフォーマンス、メモリ制約のバランスをとるモデル分割戦略を設計すること。
• TEEベースの深層学習実行におけるサイドチャnel脆弱性を同定し、緩和すること。
• モバイルデバイス上で安全で生産環境対応の可能な機密推論の基盤を構築すること。

提案手法

• ARM TrustZoneを用いて、ハードウェアで分離されたセキュアワールドを構築し、信頼できない通常のOSとは分離した機密的なモデル実行環境を提供する。
• OP-TEEをTEEの実装として採用し、RSA署名付きの信頼されたアプリケーションによるコード整合性と、セキュアメモリの隔離を強制する。
• 一般化されたレイヤー基盤の分割アプローチを提案し、DNNの個々のレイヤーをセキュアワールドで実行可能にすることで、従来の二分割構成とは異なり、細かく制御できる。
• Suttonらの研究にインspiredされた分岐実行分割法を導入し、非一様なレイヤー配分を可能にすることで、パフォーマンスとメモリ使用量の最適化を実現する。
• リモートアテステーションを活用して信頼されたアプリケーションの整合性を検証し、ルート・オブ・トラストを確立するためのセキュアブートを採用する。
• データに依存しない実行を設計することで、メモリアクセスパターンやタイミングの変化といったサイドチャnel漏洩を防ぐ。

実験結果

リサーチクエスチョン

• RQ1 特許を取得した深層学習モデルを、モデル重みやアーキテクチャを露呈させずに、信頼できないモバイルデバイス上で安全に実行する方法は何か？
• RQ2 限られたセキュアメモリを備えたARM TrustZoneのTEE内でDNN推論を実行する際のパフォーマンスとエンジニアリングのトレードオフは何か？
• RQ3 二分割構成を超えた一般化されたモデル分割は、TEE内でのパフォーマンスとメモリ利用効率をどのように向上させられるか？
• RQ4 TEEベースの深層学習におけるサイドチャnel脆弱性は何か？ そして、アルゴリズム的ハードニングによってどのように緩和できるか？
• RQ5 機密モデルの安全でスケーラブルな展開を可能にするために必要なシステムレベルのメカニズム（例：鍵管理、リモートアテステーション）は何か？

主な発見

• レイヤー基盤の分割により、セキュアワールドで実行するモデルコンponentsを細かく制御でき、モノリシックまたは二分割構成と比較してメモリ効率とパフォーマンスが向上する。
• 分岐実行分割法の導入により、全モデルを信頼できない環境にオフロードするのを回避することで、より良いロードバランスと遅延の低減が実現できる。
• 隔離されたメモリと制限されたシステムコールサポートのため、TEE実行には inherently 大きなパフォーマンスオーバーヘッドが伴うが、分割戦略によりその影響を緩和できる。
• サイドチャnel攻撃は依然として深刻な脅威であり、特にメモリアクセスやタイミングの観察可能な実行パターンを通じて発生するため、データに依存しないアルゴリズム設計が不可欠である。
• リモートアテステーションとセキュアな鍵配布は、信頼されたアプリケーションの整合性を検証し、大規模なモデル機密性保護を実現するために不可欠である。
• TEE OS の改ざんを防ぐためにハードウェアベースのルート・オブ・トラストとセキュアブートが必要であり、デバイス製造業者との連携が不可欠であることが示された。