[論文レビュー] Mitigating Leakage in Federated Learning with Trusted Hardware

Javad Ghareh Chamani, Dimitrios Papadopoulos|arXiv (Cornell University)|Nov 10, 2020

Privacy-Preserving Technologies in Data参考文献 27被引用数 7

ひとこと要約

本稿では、同型暗号を用いたフェデレーテッドラーニングにおける情報漏洩を軽減するため、信頼実行環境（TEE）に基づくSecureBoostの2つのセキュアな変種を提案する。同型暗号を用いることで、特徴値の部分的な順序がアクティブ参加者に漏洩するが、提案されたN-TEEおよび1-TEEプロトコルはこの漏洩を完全に解消し、SecureBoostと比較して1.2–5.4倍の高速化と5–49倍の通信削減を達成する。一方で、やや弱い仮定の下で高精度なデータ再構築攻撃が可能であることが示され、プライバシー保護システムにおける微細な漏洩のリスクを浮き彫りにする。

ABSTRACT

In federated learning, multiple parties collaborate in order to train a global model over their respective datasets. Even though cryptographic primitives (e.g., homomorphic encryption) can help achieve data privacy in this setting, some partial information may still be leaked across parties if this is done non-judiciously. In this work, we study the federated learning framework of SecureBoost [Cheng et al., FL@IJCAI'19] as a specific such example, demonstrate a leakage-abuse attack based on its leakage profile, and experimentally evaluate the effectiveness of our attack. We then propose two secure versions relying on trusted execution environments. We implement and benchmark our protocols to demonstrate that they are 1.2-5.4X faster in computation and need 5-49X less communication than SecureBoost.

研究の動機と目的

• 同型暗号を用いたフェデレーテッドラーニングシステムであるSecureBoostにおける微細な情報漏洩を同定・利用する。
• この漏洩が、高精度な感覚的データ再構築攻撃を可能にする実用的漏洩悪用攻撃を可能にすることを示す。
• この漏洩を解消するとともにパフォーマンスを向上させる2つのTEEベースのセキュアプロトコル（N-TEEおよび1-TEE）の設計・実装を行う。
• 実世界の金融データを用いて、FATEフレームワークに統合されたプロトコルのパフォーマンスおよびセキュリティをSecureBoostと比較して評価する。

提案手法

• 攻撃は、Paillier同型暗号を用いたSplit-findingプロセス中に露呈される被動参加者のデータサンプルの特徴に沿った部分的な順序を利用している。
• 漏洩悪用攻撃は、推定された部分的順序と近似されたデータ分布（例：10%刻み）を用いてサンプルに値を割り当て、ランダム推測よりも精度を向上させる。
• N-TEEはすべての参加者にTEEの利用を仮定し、Paillierのオーバーヘッドを回避するため、エナclave内での効率的な対称暗号化とセキュアコンピューティングを可能にする。
• 1-TEEは信頼仮定を軽減するため、アクティブ参加者でのみTEEを必要とし、対称暗号化とセキュアキーエクスチェンジを用いて被動参加者のデータを保護する。
• 両プロトコルはIntel SGXエナclaveを用い、実行の隔離、シーリング、リモートアテステーションにより整合性と機密性を保証する。
• プロトコルは実装され、FATEフレームワークに統合され、効率性のためPaillierをAESおよびワンタイムパッドに置き換えている。

実験結果

リサーチクエスチョン

• RQ1 SecureBoostのSplit-findingプロセスにおける同型暗号の使用に起因する部分的情報漏洩が、感覚的データ値の再構築に利用可能か？
• RQ2 攻撃者がデータ分布の近似知識（例：10%刻み）しか持たない場合、漏洩悪用攻撃の精度はどの程度か？
• RQ3 信頼実行環境（TEE）を用いて、この漏洩を解消するとともに、従来の暗号的手法よりもパフォーマンスを向上できるか？
• RQ4 TEEベースのプロトコルのパフォーマンス特性（計算時間および通信サイズ）は、SecureBoostと比較してどのようになるか？
• RQ5 TEEベースのフェデレーテッドラーニングプロトコルにおいて、セキュリティ、パフォーマンス、信頼仮定のトレードオフはどのようなものか？

主な発見

• データ分布の近似（例：10%刻み）を仮定した場合、漏洩悪用攻撃は年齢および給与の値をそれぞれ±5年および±2000ドルの範囲内で99%以上の精度で推測した。
• 最小値・最大値の範囲のみを用いた攻撃は、ランダム推測よりも最大35%高い精度を達成したが、追加の分布的知識がなければ高い精度には到達できなかった。
• N-TEEおよび1-TEEは、Split-findingプロセスからのすべての漏洩を解消し、感覚的データ値の再構築を不可能にした。
• N-TEEは、SecureBoostと比較して1.2–5.4倍の高速化と32–49倍の通信削減を達成し、10^5件のサンプルでそれぞれ314秒および9MBを記録した。
• 1-TEEは、SecureBoostと比較して1.2–5.4倍の高速化と5–10倍の通信削減を達成し、10^5件のサンプルでそれぞれ323秒および33MBを記録した。
• パフォーマンスの向上は、TEEベースのプロトコルでPaillier同型暗号を効率的なAESおよびワンタイムパッド暗号に置き換えたことに起因する。