[論文レビュー] SecFL: Confidential Federated Learning using TEEs

Do Le Quoc, Christof Fetzer|arXiv (Cornell University)|Oct 3, 2021

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

SecFL は、Intel SGX などの Trusted Execution Environments (TEEs) を活用して、モデル学習のエンド・ツー・エンドの機密性と整合性を保証する機密性のあるフェデレーテッドラーニングフレームワークです。ローカルおよびグローバルな学習を隔離されたエナclave内で実行し、リモートアテステーションを用いて悪意あるクライアントを検出することで、SecFL はモデルの正確性を維持しながら、データ漏洩、モデル盗難、Byzantine 攻撃に対して保護します。

ABSTRACT

Federated Learning (FL) is an emerging machine learning paradigm that enables multiple clients to jointly train a model to take benefits from diverse datasets from the clients without sharing their local training datasets. FL helps reduce data privacy risks. Unfortunately, FL still exist several issues regarding privacy and security. First, it is possible to leak sensitive information from the shared training parameters. Second, malicious clients can collude with each other to steal data, models from regular clients or corrupt the global training model. To tackle these challenges, we propose SecFL - a confidential federated learning framework that leverages Trusted Execution Environments (TEEs). SecFL performs the global and local training inside TEE enclaves to ensure the confidentiality and integrity of the computations against powerful adversaries with privileged access. SecFL provides a transparent remote attestation mechanism, relying on the remote attestation provided by TEEs, to allow clients to attest the global training computation as well as the local training computation of each other. Thus, all malicious clients can be detected using the remote attestation mechanisms.

研究の動機と目的

• 共有パラメータからのモデルおよびデータ漏洩を含む、フェデレーテッドラーニングにおけるプライバシーおよびセキュリティの脆弱性に対処する。
• データを盗み取ったり、モデルを操作したり、グローバルモデルを破壊したりするのを目的としたクライアント同士が共謀するリスクを軽減する。
• フェデレーテッドラーニング中の訓練データ、コード、モデルパラメータのエンド・ツー・エンドの機密性と整合性を確保する。
• エナclave実行の透明なリモートアテステーションを通じて、信頼できないクライアント間の信頼を構築する。
• 特権アクセスを持つ強力な敵対者に対抗しながら、高いモデルの有用性と正確性を維持する。

提案手法

• 機密性の高いデータとコードを信頼できない環境から隔離するために、ローカルおよびグローバルな学習計算を Intel SGX エナclave内で実行する。
• SCONE を用いて、変更のないアプリケーションを SGX エナclave内で実行し、安全なシステムコール処理とメモリ隔離を実現する。
• アクセス制御ポリシーの強制とシークレットの管理を担当するセキュリティポリシーマネージャー・コンponent を TEE エナclave内で実行する。
• 参加前にクライアントおよびサーバーのエナclaveの整合性と真正性を検証するため、リモートアテステーションを適用する。
• SCONE のファイルシステムシールドを用いて入力データと訓練コードを暗号化し、復号はエナclave内でのみ行われる。
• 訓練入力の新鮮性を保証し、リプレイ攻撃を防止するために、非同期モノトニックカウンタを用いる。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングにおける TEE 基盤の実行は、特権を持つ敵対者に対するモデルパラメータおよび訓練データの機密性と整合性を確保できるか？
• RQ2 リモートアテステーションは、悪意あるクライアントによる訓練計算の改ざんやデータ漏洩をどの程度効果的に検出・防止できるか？
• RQ3 既存のプライバシー保護技術と比較して、TEE の使用がモデルの有用性と正確性をどの程度維持するか？
• RQ4 TEE とリモートアテステーションを用いて、信頼できないクライアント間で分散型の信頼モデルを構築できるか？
• RQ5 検出されないままモデル更新を操作する Byzantine クライアントの影響を SecFL はどのように軽減するか？

主な発見

• SecFL は、SGX エナclave内での訓練計算の隔離により、フェデレーテッドラーニングのエンド・ツー・エンドの機密性と整合性を確保する。
• リモートアテステーションにより、クライアントはローカルおよびグローバルな訓練エナclaveの正しさと真正性を検証でき、悪意ある行動を検出する。
• フレームワークは、微分プライバシーまたは MPC に基づくアプローチで見られる性能劣化を回避し、標準的なフェデレーテッドラーニングと同等のモデルの正確性と有用性を維持する。
• セキュリティポリシーマネージャーはアクセス制御ポリシーを強制し、クライアントやクラウドプロバイダーに露出させることなく、シークレットを安全に管理する。
• エナclaveベースの実行とアテステーションを活用することで、ルートアクセスを持つ敵対者に対してもデータ漏洩やモデル盗難を防止する。
• 検証可能でポリシー強制型の実行を信頼できる環境で行うことで、信頼できないクライアント間の安全で透明な共同作業を実現する。