[論文レビュー] Privacy-Preserving Federated Learning with Verifiable Fairness Guarantees

Mohammed Himayath Ali, Mohammed Aqib Abdullah+3 more|arXiv (Cornell University)|Jan 18, 2026

Privacy-Preserving Technologies in Data被引用数 0

ひとこと要約

CryptoFair-FLは、プライバシーを保ちながら検証可能な公正性保証を提供する暗号技術フレームワークを federated learning に導入し、プライバシーと公正性のトレードオフをほぼ最適化、スケーラブルなバッチ検証を実現する。

ABSTRACT

Federated learning enables collaborative model training across distributed institutions without centralizing sensitive data; however, ensuring algorithmic fairness across heterogeneous data distributions while preserving privacy remains fundamentally unresolved. This paper introduces CryptoFair-FL, a novel cryptographic framework providing the first verifiable fairness guarantees for federated learning systems under formal security definitions. The proposed approach combines additively homomorphic encryption with secure multi-party computation to enable privacy-preserving verification of demographic parity and equalized odds metrics without revealing protected attribute distributions or individual predictions. A novel batched verification protocol reduces computational complexity from BigO(n^2) to BigO(n \log n) while maintaining (\dparam, \deltap)-differential privacy with dparam = 0.5 and deltap = 10^{-6}. Theoretical analysis establishes information-theoretic lower bounds on the privacy cost of fairness verification, demonstrating that the proposed protocol achieves near-optimal privacy-fairness tradeoffs. Comprehensive experiments across four benchmark datasets (MIMIC-IV healthcare records, Adult Income, CelebA, and a novel FedFair-100 benchmark) demonstrate that CryptoFair-FL reduces fairness violations from 0.231 to 0.031 demographic parity difference while incurring only 2.3 times computational overhead compared to standard federated averaging. The framework successfully defends against attribute inference attacks, maintaining adversarial success probability below 0.05 across all tested configurations. These results establish a practical pathway for deploying fairness-aware federated learning in regulated industries requiring both privacy protection and algorithmic accountability.

研究の動機と目的

• センシティブ属性への中央集権的アクセスなしに、フェデレーテッドラーニングでアルゴリズム的公正性を保証する課題に対処する。
• 正式なセキュリティ定義の下で検証可能な公正性保証を提供する。
• マルチ機関設定におけるデモグラフィック・パリティと等化オッズのプライバシー保護・効率的検証を実現する。
• プライバシーと公正性のトレードオフを特徴づけ、様々なデータセットで経験的に検証する。

提案手法

• 加法同型暗号化と安全な多者計算を組み合わせて、暗号化された公正性検証を実現する。
• O(n^2)からO(n log n)へ計算を削減するバッチ公正性検証プロトコルを導入する。
• 正直だが好奇心旺盛および悪意あるモデルに対して、公正性検証のための差分プライバシー保証（epsilon, delta）を提供する。
• 悪意ある参加者に対抗するために閾値復号とゼロ知識範囲証明を用いる。
• 階層的集約スキームで交差集計的グループへの公正性検証を拡張する。
• デモグラフィックパリティ検証のepsilonの下限を理論的に導出し、ラウンド間の構成を分析する。

実験結果

リサーチクエスチョン

• RQ1 保護属性分布を開示せずに、フェデレーテッドラーニングで公正性指標をどのように検証できるか。
• RQ2 フェデレーテッド設定でプライバシー保護と検証可能な公正性を保証する暗号技術は何か。
• RQ3 反復トレーニングにおけるプライバシー予算と公正性検証精度のトレードオフはどうなるか。
• RQ4 実際の連合規模に対してプロトコルはスケールし、モデル有用性を維持できるか。
• RQ5 繰り返し検証下で属性推論攻撃に対する防御はどれくらい有効か。

主な発見

Method	Δ_DP	Δ_EO	AUROC	Acc
FedAvg	0.231 b1 0.021	0.187 b1 0.018	0.872 b1 0.008	0.823 b1 0.007
Local Fair	0.142 b1 0.032	0.118 b1 0.027	0.854 b1 0.011	0.807 b1 0.009
Centralized	0.018 b1 0.004	0.021 b1 0.005	0.868 b1 0.007	0.819 b1 0.006
CryptoFair-FL	0.031 b1 0.008	0.034 b1 0.009	0.857 b1 0.009	0.811 b1 0.008

• CryptoFair-FLは、医療関連の死亡率タスクでデモグラフィックパリティの検証を違反値0.231から0.031へ低減した。
• バッチ検証により暗号化された公正性計算をO(n^2)からO(n log n)へ削減し、標準的なフェデレーテッドラーニングに比べ約2.3倍のオーバーヘッドを発生させた。
• 4つのベンチマークにおいて、CryptoFair-FLはほぼ最適なプライバシー-公正性のトレードオフを示し、AUROCは非プライバシー保護ベースラインと同程度を維持した。
• フレームワークは属性推論攻撃に対して防御力を持ち、設定全体で敵対的成功確率を0.05未満に保つ。
• K個の2値属性による交差検証はO(K n log n)のスケールで、近似誤差は有界。
• MIMIC-IVでは最終モデルのAUROCが0.857、DP違反が0.031となり、医療分野の監査閾値を満たした。
• 経験的結果は理論的なプライバシ保証を裏付け、通信オーバーヘッドはFedAvg比で約2.3倍程度と実用的である。