[論文レビュー] Byzantine Multi-Agent Optimization: Part I

Lili Su, Nitin H. Vaidya|arXiv (Cornell University)|Jun 15, 2015

Islamic Finance and Banking StudiesBusiness, Management and Accounting被引用数 19

ひとこと要約

この論文は、最大f人のエージェントが任意に動作する可能性があるマルチエージェントシステムにおけるバシルライン故障耐性分散最適化を扱う。提案された部分最適なアルゴリズムにより、凸結合における局所的コスト関数の重みが0から離れている非故障エージェントが少なくとも ⌈n/2⌉−ϕ 人保証され、バシルライン障害に対しても最適解に到達する。主な貢献は、解に影響を与える非故障エージェントの数に対するタイトな上限を特定することであり、現実的な仮定の下で、この境界と一致する実用的なアルゴリズムを設計している。

ABSTRACT

We study Byzantine fault-tolerant distributed optimization of a sum of convex (cost) functions with real-valued scalar input/ouput. In particular, the goal is to optimize a global cost function $\frac{1}{|\mathcal{N}|}\sum_{i\in \mathcal{N}} h_i(x)$, where $\mathcal{N}$ is the set of non-faulty agents, and $h_i(x)$ is agent $i$'s local cost function, which is initially known only to agent $i$. In general, when some of the agents may be Byzantine faulty, the above goal is unachievable, because the identity of the faulty agents is not necessarily known to the non-faulty agents, and the faulty agents may behave arbitrarily. Since the above global cost function cannot be optimized exactly in presence of Byzantine agents, we define a weaker version of the problem. The goal for the weaker problem is to generate an output that is an optimum of a function formed as a convex combination of local cost functions of the non-faulty agents. More precisely, for some choice of weights $α_i$ for $i\in \mathcal{N}$ such that $α_i\geq 0$ and $\sum_{i\in \mathcal{N}}α_i=1$, the output must be an optimum of the cost function $\sum_{i\in \mathcal{N}} α_ih_i(x)$. Ideally, we would like $α_i=\frac{1}{|\mathcal{N}|}$ for all $i\in \mathcal{N}$ -- however, this cannot be guaranteed due to the presence of faulty agents. In fact, we show that the maximum achievable number of nonzero weights ($α_i$'s) is $|\mathcal{N}|-f$, where $f$ is the upper bound on the number of Byzantine agents. In addition, we present algorithms that ensure that at least $|\mathcal{N}|-f$ agents have weights that are bounded away from 0. We also propose a low-complexity suboptimal algorithm, which ensures that at least $\lceil \frac{n}{2} ceil-ϕ$ agents have weights that are bounded away from 0, where $n$ is the total number of agents, and $ϕ$ ($ϕ\le f$) is the actual number of Byzantine agents.

研究の動機と目的

• 最大f人のエージェントがバシルライン障害を起こし、任意に動作する可能性があるマルチエージェントシステムにおける分散最適化の課題に対処すること。
• 正確な非故障エージェントのコスト関数の平均最適化が不可能であるため、バシルライン障害下でも解けるより弱い最適化問題を定義すること。
• 凸結合におけるグローバル解に非自明に寄与する非故障エージェントの数を最大化すること。
• 解において少なくとも一定数の非故障エージェントが0でない重みを持つことを保証する低複雑度のアルゴリズムを設計すること。
• バシルライン耐性分散最適化において、意味的に含められる非故障エージェントの最大数に対する理論的境界を確立すること。その上限は |N|−f であることを示している。

提案手法

• 問題は、出力が ∑ᵢ∈N αᵢhᵢ(x) の凸結合の最適解である Problem 2 に再定式化される。ここで αᵢ ≥ 0 かつ ∑ᵢ∈N αᵢ = 1 である。
• 非故障エージェントの値が有界かつ一貫していることを利用し、中央値に基づくアプローチを用いて解を推定する、新しいアルゴリズムを提案する。
• 候補解における部分勾配の符号を分析することにより、少なくとも ⌈n/2⌉−ϕ の非故障エージェントが0から離れた重みを持つことを保証する。
• 解は、エージェントをその値の推定値に基づいて集合に分割することによって得られる：A(x̃) は部分勾配の和が正のエージェント、B(x̃) は負のエージェント、C(x̃) は0のエージェントである。
• これらの集合のサイズに比例する重みと、バランスパラメータ ζ ∈ [0,1] を用いて凸結合を形成し、部分勾配条件を満たすようにする。
• 解析により、得られた解が重み付き和の最適解であることが証明され、少なくとも ⌈n/2⌉−ϕ の非故障エージェントが 1/(2|N|) 以上の下界を持つ重みで寄与している。

実験結果

リサーチクエスチョン

• RQ1 バシルライン障害が存在する状況下でも、非故障エージェントのコスト関数の平均の正確な最適化が達成可能か？
• RQ2 バシルライン耐性分散最適化環境下で、解に非自明に影響を与える非故障エージェントの最大数は何か？
• RQ3 バシルライン障害の影響を受けても、意味的に重要な数の非故障エージェントが解に寄与するように保証できる低複雑度のアルゴリズムを設計可能か？
• RQ4 故障エージェントの特定が不明な状況下でも、解が非故障エージェントのコスト関数の凸結合の最適解であることが保証可能か？
• RQ5 非故障エージェントのコスト関数が解に意味的に含められる最小数の理論的下限は何か？

主な発見

• 凸結合における非ゼロ重みを持つ非故障エージェントの最大数は、|N|−f で抑えられる。ここで f はバシルラインエージェントの上限である。
• 提案されたアルゴリズムにより、実際に故障しているエージェント数 ϕ を用いて、少なくとも ⌈n/2⌉−ϕ の非故障エージェントが0から離れた重みを持つことが保証される。
• 解は、∑ᵢ∈N αᵢ = 1 かつ αᵢ ≥ 0 を満たす凸結合 ∑ᵢ∈N αᵢhᵢ(x) の最適解であることが保証される。
• 中央値に基づく推定と部分勾配の符号解析を用いることで、計算複雑度が低いアルゴリズムによりこの結果が達成される。
• 理論的解析により、故障エージェントの動作が任意かつ敵対的であっても、解が重み付き和の最適解であることが証明されている。
• n > 3f という条件が満たされれば、非故障エージェントが合意形成プロセスを支配するのに十分な数であることが保証される。