[論文レビュー] On the relationship between (secure) multi-party computation and (secure) federated learning

Huafei Zhu|arXiv (Cornell University)|Aug 6, 2020

Privacy-Preserving Technologies in Data参考文献 12被引用数 10

ひとこと要約

本稿では、フェデレーテッドラーニング（FL）とマルチパーティー計算（MPC）の間の形式的関係を確立し、各FLラウンドをm項機能としてモデル化することで、FLがMPCの部分集合であることを示している。さらに、FLがシミュレーションベースのセキュリティを達成する場合、セキュアフェデレーテッドラーニング（SFL）はセキュアマルチパーティー計算（SMPC）の部分集合であることが証明され、プライバシー保護型FLがMPCフレームワークの下で統合される。

ABSTRACT

The contribution of this short note, contains the following two parts: in the first part, we are able to show that the federate learning (FL) procedure presented by Kairouz et al. \cite{Kairouz1901}, is a random processing. Namely, an $m$-ary functionality for the FL procedure can be defined in the context of multi-party computation (MPC); Furthermore, an instance of FL protocol along Kairouz et al.'s definition can be viewed as an implementation of the defined $m$-ary functionality. As such, an instance of FL procedure is also an instance of MPC protocol. In short, FL is a subset of MPC. To privately computing the defined FL (m-ary) functionality, various techniques such as homomorphic encryption (HE), secure multi-party computation (SMPC) and differential privacy (DP) have been deployed. In the second part, we are able to show that if the underlying FL instance privately computes the defined $m$-ary functionality in the simulation-based framework, then the simulation-based FL solution is also an instance of SMPC. Consequently, SFL is a subset of SMPC.

研究の動機と目的

• フェデレーテッドラーニング（FL）とマルチパーティー計算（MPC）の間の形式的関係を明確化すること。
• FLプロトコルがMPCプロトコルのインスタンスと見なせるかどうかを調査すること。
• シミュレーションベースのフレームワークにおけるセキュアフェデレーテッドラーニング（SFL）が、セキュアマルチパーティー計算（SMPC）の部分集合であるかどうかを検討すること。
• FLプロセスをMPCフレームワーク内でのm項機能として形式化すること。

提案手法

• 各FLラウンドjに対してm項機能$f_j$を定義し、m人の参加者（クライアントとサーバ）からの入力を、モデル更新を含む出力へマッピングする。
• FL手順をラウンド機能の合成としてモデル化する：$f_{\text{FL}} = f_n \circ \cdots \circ f_1$。
• 各参加者のビューを、入力、ランダムネス、およびシステムパラメータを含む「追加のみ可能なデータ構造」$\mathrm{View}_i^\Pi(\overline{x})$として表現する。
• SMPCの合成定理を適用し、各ラウンド$f_j$が安全に計算されるならば、全FL機能$f_{\text{FL}}$も安全に計算されることを示す。
• オラクル支援プロトコルを用いてプライベートな還元をモデル化し、$f_j$を介して$f_{\text{FL}}$を安全に計算可能とする。
• シミュレーションベースの不可弁別性によるセキュリティを定義する：シミュレータ$S$は、実プロトコルのビューと計算的に区別不能なビューを生成しなければならない。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングプロトコルは、マルチパーティー計算（MPC）のインスタンスとして形式的にモデル化可能か？
• RQ2 フェデレーテッドラーニング（FL）はマルチパーティー計算（MPC）の真の部分集合であるか？
• RQ3 シミュレーションベースのセキュアフェデレーテッドラーニング（SFL）プロトコルは、セキュアマルチパーティー計算（SMPC）のセキュリティ保証を満たすか？
• RQ4 FLプロセスはm項機能の合成として表現可能であり、SMPCのもとでプライベートに計算可能か？

主な発見

• フェデレーテッドラーニング（FL）は、各FLラウンドがm項機能としてモデル化可能であるため、形式的にマルチパーティー計算（MPC）の部分集合として確立された。
• Kairouzらの定義に基づくFLプロトコルのインスタンスは、m項機能の実装であるため、FLはMPCの特定のケースである。
• FLプロトコルがシミュレーションベースのフレームワークでその機能を安全に計算する場合、それはセキュアマルチパーティー計算（SMPC）のインスタンスでもある。
• シミュレーションベースのセキュリティモデルにおけるセキュアフェデレーテッドラーニング（SFL）は、セキュアマルチパーティー計算（SMPC）の部分集合である。
• SMPCの合成定理を用いた安全なラウンド機能の合成により、全FLプロセスのエンドツーエンドのセキュリティが保証される。
• オラクル支援プロトコルの使用により、全体のFL機能が個々のラウンド機能へのプライベートな還元が可能となり、モジュラーなセキュリティ解析を支援する。