[论文解读] Efficient Algorithms for Federated Saddle Point Optimization

Charlie Hou, Kiran Koshy Thekumparampil+2 more|arXiv (Cornell University)|Feb 12, 2021

Stochastic Gradient Optimization Techniques参考文献 26被引用 9

一句话总结

该论文提出 SCAFFOLD-Catalyst-S，这是首个在异构与同构客户端设置下均实现最优通信复杂度的联邦极小极大优化算法。通过结合 SCAFFOLD 的客户端方差缩减与 Catalyst 的加速框架，该算法消除了对最坏情况异构性的依赖，同时保持快速收敛，在任意异构性下性能与 Minibatch Mirror-Prox 相当，并在实践中优于 FedAvg-S 和 SCAFFOLD-S。

ABSTRACT

We consider strongly convex-concave minimax problems in the federated setting, where the communication constraint is the main bottleneck. When clients are arbitrarily heterogeneous, a simple Minibatch Mirror-prox achieves the best performance. As the clients become more homogeneous, using multiple local gradient updates at the clients significantly improves upon Minibatch Mirror-prox by communicating less frequently. Our goal is to design an algorithm that can harness the benefit of similarity in the clients while recovering the Minibatch Mirror-prox performance under arbitrary heterogeneity (up to log factors). We give the first federated minimax optimization algorithm that achieves this goal. The main idea is to combine (i) SCAFFOLD (an algorithm that performs variance reduction across clients for convex optimization) to erase the worst-case dependency on heterogeneity and (ii) Catalyst (a framework for acceleration based on modifying the objective) to accelerate convergence without amplifying client drift. We prove that this algorithm achieves our goal, and include experiments to validate the theory.

研究动机与目标

• 解决在任意客户端数据异构性存在下，缺乏收敛性保证的联邦极小极大优化算法的问题。
• 设计一种算法，在任意异构性下通信复杂度与 Minibatch Mirror-Prox 相当，同时在客户端同构条件下优于现有方法。
• 以一种在极小极大设置中保持收敛性保证的方式，整合方差缩减（SCAFFOLD）与加速（Catalyst）。
• 弥合强凸-凹问题中理论性能与实际联邦极小极大优化之间的差距。

提出的方法

• 结合 SCAFFOLD 的客户端级方差缩减，消除收敛速率对客户端异构性的依赖。
• 应用 Catalyst 框架以加速收敛，同时在极小极大设置中不放大客户端漂移。
• 采用 SCAFFOLD-Catalyst 框架的梯度下降-上升变体，专为鞍点问题设计。
• 采用概率为 $p$ 的随机化同步策略，以平衡通信与本地计算。
• 推导出新的收敛性分析，以强凸性、光滑性及客户端异构性为条件，界定向预期的原-对偶间隙。
• 提出一种新颖的分析技术，以处理原-对偶间隙的非强制性，该特性不同于标准凸优化假设。

实验结果

研究问题

• RQ1 联邦极小极大算法是否能在任意客户端异构性下实现与 Minibatch Mirror-Prox 相同的通信复杂度？
• RQ2 凸联邦优化中的方差缩减技术能否被适配到极小极大问题中而不损失收敛性保证？
• RQ3 Catalyst 框架的加速能否应用于联邦极小极大优化中而不增加客户端漂移或在异构性下降低性能？
• RQ4 是否存在一种统一算法，在同构与异构客户端数据分布下均表现良好？

主要发现

• SCAFFOLD-Catalyst-S 实现了通信复杂度 $\min\left\{\frac{\beta}{\mu}, \frac{p\beta^{2}}{\mu^{2}} + \frac{p\sigma^{2}}{n\mu^{2}\epsilon} + \frac{p^{1/2}\beta\sigma}{\mu^{2}\epsilon^{1/2}} + \frac{\beta\zeta}{\mu^{2}\epsilon^{1/2}}\right\}$，在任意异构性下与 Minibatch Mirror-Prox 相当（仅对数因子差异）。
• 该算法在同构与异构设置下均优于 FedAvg-S 和 SCAFFOLD-S，尤其在客户端相似时表现更优。
• SCAFFOLD 与 Catalyst 的集成实现了最优收敛，且在存在本地更新时未放大客户端漂移。
• 实验结果验证了理论结论，显示其收敛速度更快且通信成本更低，优于基线方法。
• 该分析为联邦极小极大问题建立了新的收敛框架，克服了原-对偶间隙缺乏梯度共强制性的问题。