[論文レビュー] Distributed Computing with Adaptive Heuristics

Aaron D. Jaggard, Michael Schapira+1 more|arXiv (Cornell University)|Oct 8, 2009

Game Theory and Applications被引用数 4

ひとこと要約

この論文は、非同期分散システムにおける適応的ヒューリスティクス（例：最良応答や後悔最小化）の収束を調査する。分散計算におけるバリエンシー論法を用いて、有界記憶のヒューリスティクスに対して一般化された非収束結果を証明し、故障のない環境下でもこのようなダイナミクスが安定化しない可能性があることを示し、ゲーム理論、回路設計、ネットワークプロトコルに影響を及ぼす。

ABSTRACT

We use ideas from distributed computing to study dynamic environments in which computational nodes, or decision makers, follow adaptive heuristics (Hart 2005), i.e., simple and unsophisticated rules of behavior, e.g., repeatedly "best replying" to others' actions, and minimizing "regret", that have been extensively studied in game theory and economics. We explore when convergence of such simple dynamics to an equilibrium is guaranteed in asynchronous computational environments, where nodes can act at any time. Our research agenda, distributed computing with adaptive heuristics, lies on the borderline of computer science (including distributed computing and learning) and game theory (including game dynamics and adaptive heuristics). We exhibit a general non-termination result for a broad class of heuristics with bounded recall---that is, simple rules of behavior that depend only on recent history of interaction between nodes. We consider implications of our result across a wide variety of interesting and timely applications: game theory, circuit design, social networks, routing and congestion control. We also study the computational and communication complexity of asynchronous dynamics and present some basic observations regarding the effects of asynchrony on no-regret dynamics. We believe that our work opens a new avenue for research in both distributed computing and game theory.

研究の動機と目的

• ゲーム理論や経済学で一般的に用いられる適応的ヒューリスティクスが、非同期分散環境において均衡に確かに収束するかどうかを調査すること。
• 故障のない条件下でも、非同期性が有界記憶のヒューリスティクスの収束に及ぼす根本的な制限を特定すること。
• 分散計算とゲーム理論を結びつけるために、分散システムの形式的手法を用いてヒューリスティクスのダイナミクスを分析すること。
• スケジューリングとメッセージ順序が、非同期設定における収束保証に与える影響を検討すること。
• ノード障害が存在しない状況でも、特定のクラスの適応的ヒューリスティクスにおいて非収束が本質的であることを示すこと。

提案手法

• 分散計算理論の標準的手法であるバリエンシー論法を用いて、異なるメッセージ実行順序におけるシステム動作を分析する。
• プロセスが非同期に動作し、メッセージを受信して状態を更新する分散プロトコルとしてシステムをモデル化する。
• 耐障害性のあるコンセンサスフレームワークと、非同期環境下での分散コンセンサスの不可能性（Fischer-Lynch-Paterson）を基盤として、非収束を証明する。
• メッセージ列が可換であり、システム動作が一貫する条件を形式化するために、IoD（Deadlockの独立性）特性を導入する。
• アクティベーション順序の制限を設けてスケジューリングの影響を分析し、安定状態への収束に与える影響を検討する。
• 各ステップがプロセスがメッセージ（またはnull）を受信する形式の実行シーケンスの形式的モデルを用いる。

実験結果

リサーチクエスチョン

• RQ1 有界記憶の適応的ヒューリスティクス（例：最良応答や後悔最小化）は、完全に非同期なシステムにおいて均衡への収束を保証できるか？
• RQ2 非同期性が、分散システムにおける単純で洗練されていない意思決定ルールの収束に及ぼす根本的な制限は何か？
• RQ3 複数の均衡点が存在することは、障害がなくとも非同期環境での収束を妨げる本質的要因となるか？
• RQ4 ノードのアクティベーション順序に対する制限は、適応的ヒューリスティクスの収束特性にどのように影響するか？
• RQ5 どのクラスの適応的ヒューリスティクスにおいて、非同期環境下でも収束が形式的に保証され、その背後にある構造的性質は何か？

主な発見

• 故障のない環境下でも、非同期システムにおける広範な有界記憶の適応的ヒューリスティクスのクラスに対して、一般化された非収束結果が確立された。
• 非収束結果は本質的にタイトであることが示され、特定の後悔最小化ダイナミクスは非同期設定でも収束することが確認された。
• システムに2つ以上の均衡点が存在する場合、メッセージ受信順序の調整が不十分なために、収束に失敗する実行が存在することが示された。
• 不可能性結果はバリエンシー論法とIoD（Deadlockの独立性）特性を用いて導出され、古典的な分散コンセンサスの不可能性をヒューリスティクスのダイナミクスに拡張した。
• 研究により、非同期性が多くの適応的ヒューリスティクスの収束保証を根本的に損なうことが明らかになったが、同期的仮定下では収束する場合がある。
• 現実世界のシステムへの影響を示唆する：ゲームのダイナミクスは純粋ナッシュ均衡に到達しない可能性があり、非同期回路は安定化しない可能性があり、BGPのようなルーティングプロトコルは収束しない可能性がある。