[論文レビュー] Scalable and Privacy-Preserving Federated Principal Component Analysis

David Froelicher, Hyunghoon Cho+7 more|arXiv (Cornell University)|Mar 31, 2023

Biometric Identification and Security被引用数 4

ひとこと要約

本稿では、マルチパーティ暗号化とエッジコンピューティングを活用して、分散型で機密性の高いデータ上で主成分を安全に計算するスケーラブルでプライバシー保護型のフェデレーテッドPCAシステム、sf-pcaを提案する。この手法は、生データや中間結果を露呈することなく、中央集権的処理と同等の精度を達成し、データサイズおよび参加者数に比例してスケーリング可能であり、先行するプライバシー保護型手法と比較して3倍から250倍の高速化を実現する。

ABSTRACT

Principal component analysis (PCA) is an essential algorithm for dimensionality reduction in many data science domains. We address the problem of performing a federated PCA on private data distributed among multiple data providers while ensuring data confidentiality. Our solution, SF-PCA, is an end-to-end secure system that preserves the confidentiality of both the original data and all intermediate results in a passive-adversary model with up to all-but-one colluding parties. SF-PCA jointly leverages multiparty homomorphic encryption, interactive protocols, and edge computing to efficiently interleave computations on local cleartext data with operations on collectively encrypted data. SF-PCA obtains results as accurate as non-secure centralized solutions, independently of the data distribution among the parties. It scales linearly or better with the dataset dimensions and with the number of data providers. SF-PCA is more precise than existing approaches that approximate the solution by combining local analysis results, and between 3x and 250x faster than privacy-preserving alternatives based solely on secure multiparty computation or homomorphic encryption. Our work demonstrates the practical applicability of secure and federated PCA on private distributed datasets.

研究の動機と目的

• 遺伝学や医療分野など、機密性の高いデータを扱う分野において、安全で正確かつスケーラブルなフェデレーテッドPCAソリューションが不足しているという問題に取り組む。
• 局所的なPCA結果を統合することで精度を犠牲にする既存のメタアナリシス手法の限界を克服する。
• データがローカルに留まり、中間結果でさえもアグリゲーターからも暗号化された状態で保たれる、エンドツーエンドのプライバシーを実現する。
• データセットの次元数およびデータ提供者の数の両方に対して、効率的にスケーリング可能であり、受動的攻撃者モデル下でもセキュリティを維持するシステムを開発する。
• 最適化された暗号技術を用いて、フェデレーテッド分析における高次元線形代数演算の実用的で展開可能なソリューションを提供する。

提案手法

• 複数のデータ提供者（DPs）間で暗号化されたデータ上で安全に計算を行うために、マルチパーティホモモーフィック暗号化（MHE）を活用する。この際、復号は一切行わない。
• エッジコンピューティングを統合し、ローカルなクリアテキスト計算と集団的な暗号化演算を交互に実行することで、通信量と遅延を低減する。
• MHEとシークレットシェアリングを組み合わせたハイブリッド暗号アプローチを採用し、異なる演算に適した方式を切り替える——大規模な行列演算にはMHE、小規模な入力に対する非多項式関数にはシークレットシェアリングを適用する。
• 高い精度を確保するため、コア計算としてランダム化PCA（RPCA）アルゴリズムを採用する。この手法により、中央集権的PCAと同等の精度を達成する。
• MHEに最適化されたルーチンを用いて、行列乗算、分解、直交化などの主要な線形代数演算を最適化する。
• MHE秘密鍵のしきい値ベースシークレットシェアリングにより、障害耐性を実現。一部のDPが利用不能になっても計算を継続可能である。

Figure 1: Randomized PCA Workflow. Matrix dimensions are shown with the box sizes and are indicated on the left and top of the corresponding box.

実験結果

リサーチクエスチョン

• RQ1 エンドツーエンドのプライバシーを保ちながら、生データおよび中間結果を暗号化した状態で、フェデレーテッドPCAシステムが中央集権的PCAと同等の精度を達成できるか？
• RQ2 安全なマルチパーティ計算を、PCAにおける参加者数および入力次元数の増加に伴い、効率的にスケーリングするにはどうすればよいか？
• RQ3 MHEとシークレットシェアリングを組み合わせたハイブリッド暗号技術を、フェデレーテッド線形代数における混合ワークロードにおいて、効果的に組み合わせて性能向上を図れるか？
• RQ4 本手法は、既存のプライバシー保護型PCAソリューションと比較して、速度、精度、通信オーバーヘッドの面でどの程度優れているか？
• RQ5 遺伝学的データなど、機密性の高いデータを含む実世界の応用において、安全でスケーラブルかつ正確なフェデレーテッドPCAシステムを実装することが可能か？

主な発見

• sf-pcaは、データ提供者の間でのデータ分布に関わらず、非セキュアな中央集権的ソリューションと同等のPCA結果を達成する。
• 本システムは、参加者数および入力データの次元数の両方に対して、線形的またはそれ以上のスケーリング特性を示す。
• 既存のプライバシー保護型代替手法（単一の安全なマルチパーティ計算または暗号化技術に依存）と比較して、sf-pcaは3倍から250倍の高速化を達成する。
• 2者間の設定において、sf-pcaはデータサイズの増加に伴いほぼ一定の実行時間を維持するが、SMCベースの手法は1.9倍遅くなる。
• 2,504人の個体と1,773の特徴を持つ遺伝学的データセットにおいて、sf-pcaは中央集権的PCAと一致する真の低次元構造を正確に回復するが、メタアナリシス手法ではデータの構造が歪められる。
• 各データ提供者は、自身の出力部分のみを確認できるため、セキュリティモデル下でも機密性が保たれる。アグリゲーターと結果を共有しても同様である。

Figure 2: sf-pca System Model and Functionality. Each DP i holds a $n_{i}\times m$ submatrix as input and collaboratively executes sf-pca to obtain encrypted PCs and/or the projection of its local data.