[論文レビュー] Collaborative Learning in the Jungle

El Mahdi El Mhamdi, Sadegh Farhadkhani+4 more|arXiv (Cornell University)|Aug 3, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用数 4

ひとこと要約

この論文は、非正規のノードが最大f個存在する状況下で、異種のデータを持つノードが、正規ノードの入力の平均に近いベクトルに収束する必要があるという、Byzantine協調学習における基礎的問題としての平均化合意形成を導入する。2つの最適な非同期アルゴリズムを提示する。1つ目はn ≥ 6f+1を要件とし、近似的に最適な平均化定数を達成する。もう1つはn ≥ 3f+1で最適な耐障害性を達成するが、トリムド平均と信頼性の高いブロードキャストを用いる。協調学習と平均化合意形成の等価性を証明し、敵対的かつ非均質な環境における新たな不可能性定理を確立する。

ABSTRACT

We study Byzantine collaborative learning, where $n$ nodes seek to collectively learn from each others' local data. The data distribution may vary from one node to another. No node is trusted, and $f < n$ nodes can behave arbitrarily. We prove that collaborative learning is equivalent to a new form of agreement, which we call averaging agreement. In this problem, nodes start each with an initial vector and seek to approximately agree on a common vector, which is close to the average of honest nodes' initial vectors. We present two asynchronous solutions to averaging agreement, each we prove optimal according to some dimension. The first, based on the minimum-diameter averaging, requires $ n \geq 6f+1$, but achieves asymptotically the best-possible averaging constant up to a multiplicative constant. The second, based on reliable broadcast and coordinate-wise trimmed mean, achieves optimal Byzantine resilience, i.e., $n \geq 3f+1$. Each of these algorithms induces an optimal Byzantine collaborative learning protocol. In particular, our equivalence yields new impossibility theorems on what any collaborative learning algorithm can achieve in adversarial and heterogeneous environments.

研究の動機と目的

• Byzantine故障下での協調学習を、新たな合意形成問題「平均化合意形成」として形式化すること。
• 非均質的かつ敵対的なデータ環境下で、最適な耐障害性と収束性を達成する非同期アルゴリズムを設計すること。
• Byzantine協調学習と平均化合意形成の等価性を証明し、新たな不可能性結果を導出すること。
• 任意のノード動作下での分散学習における収束精度と故障耐性の最適な境界を確立すること。

提案手法

• ノードが正規ノードの初期ベクトルの平均に近いベクトルに収束する新たなコンセンサスプリミティブ「平均化合意形成」を導入する。
• 最小直径平均化に基づく最初のアルゴリズムを提案。n ≥ 6f+1を要件とし、漸近的に最適な平均化定数を達成する。
• 信頼性の高いブロードキャストと座標毎のトリムド平均を用いる2番目のアルゴリズムを開発。n ≥ 3f+1で最適なByzantine耐障害性を達成する。
• 協調学習と平均化合意形成の等価性を用いて、敵対的かつ非均質な学習環境における新たな不可能性定理を導出する。
• 両アルゴリズムの故障耐性と収束精度の両面で最適性を証明する。
• 2つのアルゴリズムを用いて、最適なByzantine協調学習プロトコルを構築する。

実験結果

リサーチクエスチョン

• RQ1 Byzantine協調学習は、新たな形の合意形成に還元可能か。もしそうならば、その性質は何か？
• RQ2 非同期Byzantine協調学習で最適な耐障害性を達成するための最小ノード数は何か？
• RQ3 任意のノード動作と非均質なデータ分布下で、収束精度を最大化する方法は何か？
• RQ4 敵対的かつ非均質な環境下での協調学習の根本的限界（不可能性結果）は何か？
• RQ5 非同期環境下で、故障耐性と収束精度の最適なトレードオフを達成できるか？

主な発見

• この論文は、Byzantine協調学習と平均化合意形成の間で正式な等価性を確立し、敵対的条件下での分散学習に対する新たな理論的知見を可能にする。
• 最小直径平均化に基づくプロトコルは、漸近的に最適な平均化定数を達成するが、このアプローチではn ≥ 6f+1の境界が不可欠である。
• 信頼性の高いブロードキャストと座標毎のトリムド平均を用いる2番目のプロトコルは、n ≥ 3f+1で最適なByzantine耐障害性を達成し、理論的下限に一致する。
• 両アルゴリズムは、それぞれの次元で最適性が証明されている：1つ目は収束精度（平均化定数）の観点で、もう1つは故障耐性の観点で。
• 協調学習と平均化合意形成の等価性から、敵対的かつ非均質な学習環境における新たな不可能性定理が導かれる。これは、その環境で達成可能な限界を示している。
• 結果として、2つの提案された非同期アルゴリズムを用いることで、故障耐性と収束精度の両面で最適なByzantine協調学習が達成可能であることが示された。各アルゴリズムは別々の性能指標で最適である。