[论文解读] Distributed Computing with Adaptive Heuristics

Aaron D. Jaggard, Michael Schapira+1 more|arXiv (Cornell University)|Oct 8, 2009

Game Theory and Applications被引用 4

一句话总结

本文研究了自适应启发式方法（如最优回应和后悔最小化）在异步分布式系统中的收敛性。通过分布式计算中的可达性论证，证明了有记忆限制的启发式方法存在普遍的非收敛结果，表明即使在无故障环境中，此类动态行为也可能无法稳定，其影响涉及博弈论、电路设计和网络协议。

ABSTRACT

We use ideas from distributed computing to study dynamic environments in which computational nodes, or decision makers, follow adaptive heuristics (Hart 2005), i.e., simple and unsophisticated rules of behavior, e.g., repeatedly "best replying" to others' actions, and minimizing "regret", that have been extensively studied in game theory and economics. We explore when convergence of such simple dynamics to an equilibrium is guaranteed in asynchronous computational environments, where nodes can act at any time. Our research agenda, distributed computing with adaptive heuristics, lies on the borderline of computer science (including distributed computing and learning) and game theory (including game dynamics and adaptive heuristics). We exhibit a general non-termination result for a broad class of heuristics with bounded recall---that is, simple rules of behavior that depend only on recent history of interaction between nodes. We consider implications of our result across a wide variety of interesting and timely applications: game theory, circuit design, social networks, routing and congestion control. We also study the computational and communication complexity of asynchronous dynamics and present some basic observations regarding the effects of asynchrony on no-regret dynamics. We believe that our work opens a new avenue for research in both distributed computing and game theory.

研究动机与目标

• 研究自适应启发式方法（在博弈论和经济学中常见）是否能在异步分布式环境中可证明地收敛到均衡状态。
• 识别在异步环境下，即使在无故障条件下，有记忆限制的启发式方法在收敛性方面所受的根本性限制。
• 通过将分布式计算与博弈论相连接，应用分布式系统中的形式化技术来分析启发式动态行为。
• 研究调度和消息顺序对异步环境中收敛性保证的影响。
• 证明非收敛性是某些类自适应启发式方法的固有特性，即使在无节点故障的情况下也是如此。

提出的方法

• 应用可达性论证——分布式计算理论中的标准技术——来分析不同消息执行顺序下系统行为的变化。
• 将系统建模为分布式协议，其中各进程异步运行，根据接收到的消息和自适应启发式方法更新状态。
• 以容错共识框架和异步环境下分布式共识不可能性（Fischer-Lynch-Paterson定理）为基础，证明非收敛性。
• 引入IoD（死锁独立性）属性，以形式化描述消息序列可交换且系统行为保持一致的条件。
• 通过限制激活顺序来分析调度的影响，并研究此类限制如何影响系统收敛至稳定状态。
• 采用执行序列的形式化模型，其中每一步包括一个进程接收消息（或空消息），系统通过非确定性消息接收过程演化。

实验结果

研究问题

• RQ1 有记忆限制的自适应启发式方法（如最优回应或后悔最小化）是否能在完全异步系统中保证收敛到均衡？
• RQ2 异步性对分布式系统中简单、非复杂决策规则收敛性的根本限制是什么？
• RQ3 即使在无故障情况下，系统中存在多个均衡点是否本质上会阻止收敛，即使在异步环境中？
• RQ4 对节点激活顺序的限制如何影响自适应启发式方法的收敛特性？
• RQ5 在哪些类别的自适应启发式方法中，即使在异步环境下，收敛性仍可被证明？其背后的结构性特征是什么？

主要发现

• 在完全异步系统中，对一大类有记忆限制的自适应启发式方法，建立了普遍的非收敛结果，即使节点和通信通道均无故障。
• 该非收敛结果本质上是紧致的，因为存在特定的后悔最小化动态行为在异步环境中确实可以收敛。
• 系统中存在两个或更多均衡点，意味着存在某些执行路径无法收敛，这是由于消息接收顺序缺乏协调所致。
• 该不可能性结果通过可达性论证和IoD（死锁独立性）属性推导得出，将经典分布式共识不可能性推广至启发式动态行为。
• 研究表明，异步性从根本上破坏了众多自适应启发式方法的收敛保证，即使这些方法在同步假设下能够收敛。
• 研究结果对现实系统具有启示：博弈动态可能无法达到纯纳什均衡，异步电路可能无法稳定，BGP等路由协议可能无法收敛。