[論文レビュー] Distributed Learning for Cooperative Inference

Angelia Nedić, Alex Olshevsky+1 more|arXiv (Cornell University)|Apr 10, 2017

Statistical Methods and Inference被引用数 6

ひとこと要約

本稿では、エージェントが局所的観測と近隣エージェントとの通信に基づいて共有パラメータを推定するネットワークにおける協調推論のための分散学習アルゴリズムを提案する。ベイズ的事後分布を確率的ミラー降下ステップとして解釈することで、エージェントの信念が真のパラメータのまわりに指数的かつ非漸近的に集中する分散アルゴリズムを構築した。コン pact および可算な仮説空間に対して、明示的な収束レートの上限を提供する。

ABSTRACT

We study the problem of cooperative inference where a group of agents interact over a network and seek to estimate a joint parameter that best explains a set of observations. Agents do not know the network topology or the observations of other agents. We explore a variational interpretation of the Bayesian posterior density, and its relation to the stochastic mirror descent algorithm, to propose a new distributed learning algorithm. We show that, under appropriate assumptions, the beliefs generated by the proposed algorithm concentrate around the true parameter exponentially fast. We provide explicit non-asymptotic bounds for the convergence rate. Moreover, we develop explicit and computationally efficient algorithms for observation models belonging to exponential families.

研究の動機と目的

• エージェントがネットワーク全体のトポロジー情報や他のエージェントの観測を把握できない分散パラメータ推定の課題に対処すること。
• エージェントが局所的なデータと近隣エージェントとの通信のみを用いて、共通のパラメータを協調的に推論できる分散アルゴリズムを開発すること。
• ネットワーク制約が存在する中でも、真のパラメータのまわりへの信念の集中に関する非漸近的かつ高確率の収束バウンドを提供すること。
• 指数型分布族のモデルにアルゴリズムを特化させ、計算的に効率的な更新を可能とすること。
• 有限な仮説集合に限らず、可算およびコンパクトなパラメータ空間に対しても幾何的収束レートを確立すること、従来の研究を拡張すること。

提案手法

• 変分解析を用いてベイズ的事後分布を確率的最適化問題の解として定式化する。
• 事後分布の更新を、確率的ミラー降下（SMD）アルゴリズムのステップとして再解釈することで、分散実装を可能にする。
• エージェントが局所的なベイズ更新と通信ネットワーク上の重み付き平均化を繰り返し行う分散SMDベースの学習プロトコルを設計する。
• ヘリンジャー距離と被覆論法を用いて、信念が真のパラメータから逸脱する確率をバウンドする。
• 収小するヘリンジャー球の系列を導入し、集中不等式を活用して信念の正確性に関する高確率バウンドを導出する。
• 指数型分布族のモデルに特化させることで、各エージェントに対して閉形式の計算効率の良い更新ルールが得られる。

実験結果

リサーチクエスチョン

• RQ1 限られた情報のもとでネットワークに接続された状況下で、分散アルゴリズムがエージェントの信念を真のパラメータのまわりに指数的かつ非漸近的に収束させられるか？
• RQ2 ネットワークトポロジーは、分散学習の過渡期と定常状態の収束レートにどのように影響するか？
• RQ3 提案手法は、有限または可算な仮説集合に限らず、連続的（コンパクトな）パラメータ空間に対しても拡張可能か？
• RQ4 ネットワークサイズ、観測ノイズ、信頼水準を変数として、信念の集中に関する明示的かつ非漸近的な収束レートは何か？
• RQ5 指数型分布族のような実用的モデルに対応できるように、アルゴリズムを計算的に効率化する方法は何か？

主な発見

• 提案された分散アルゴリズムにより、エージェントの信念は真のパラメータのまわりに高確率で指数的かつ高速に集中する。
• 任意の信頼水準 σ ∈ (0,1) に対して、真のパラメータ θ* のまわりの半径 r のヘリンジャー球に質量 1−χ exp(−k/32r²) より少ない確率を割り当てるエージェントの信念の確率は σ でバウンドされる。
• 収束レートは幾何的であり、ネットワーク構造、観測モデル、事前分布に依存する明示的な非漸近的バウンドを有する。
• 仮説空間が ℝᵈ のコンパクト部分集合であっても、指数的集中が達成可能であり、従来の有限または可算な集合に限った結果を拡張する。
• 指数型分布族のモデルでは、更新ルールが単純な閉形式の式に簡略化され、効率的な分散実装が可能になる。
• 幾何的収束に至るまでの過渡期は有界であり、ネットワークの接続性、被覆集合への事前確率、信頼水準に依存する。