[论文解读] Adaptive Decentralized Composite Optimization via Three-Operator Splitting

Xiaokai Chen, Ilya Kuruzov+1 more|arXiv (Cornell University)|Feb 19, 2026

Distributed Control Multi-Agent Systems被引用 0

一句话总结

本文提出去中心化优化方法，代理通过局部回溯和三算子分裂框架自适应调整步长，实现对局部光滑（强）凸损失之和再加不可光滑凸项的高效处理。

ABSTRACT

The paper studies decentralized optimization over networks, where agents minimize a sum of {\it locally} smooth (strongly) convex losses and plus a nonsmooth convex extended value term. We propose decentralized methods wherein agents {\it adaptively} adjust their stepsize via local backtracking procedures coupled with lightweight min-consensus protocols. Our design stems from a three-operator splitting factorization applied to an equivalent reformulation of the problem. The reformulation is endowed with a new BCV preconditioning metric (Bertsekas-O'Connor-Vandenberghe), which enables efficient decentralized implementation and local stepsize adjustments. We establish robust convergence guarantees. Under mere convexity, the proposed methods converge with a sublinear rate. Under strong convexity of the sum-function, and assuming the nonsmooth component is partly smooth, we further prove linear convergence. Numerical experiments corroborate the theory and highlight the effectiveness of the proposed adaptive stepsize strategy.

研究动机与目标

• 在网络上推动对由局部光滑凸损失和不可光滑凸项组成的复合目标的去中心化优化。
• 通过局部回溯配合轻量级的最小一致性协议，开发自适应步长策略。
• 引入等效重构的三算子分裂因子化，以实现去中心化实现。

提出的方法

• 将三算子分裂因子化应用于问题的等效重构。
• 为重构赋予BCV预条件化度量（Bertsekas-O'Connor-Vandenberghe）以实现高效的去中心实现。
• 通过局部回溯过程嵌入自适应步长调整。
• 使用轻量级的最小一致性协议在代理之间进行信息交换。

实验结果

研究问题

• RQ1 如何将自适应步长整合到含不可光滑项的去中心化复合优化中？
• RQ2 三算子分裂与BCV预条件化是否能够在自适应步长下实现鲁棒的去中心化收敛？
• RQ3 在仅凸性和不可光滑部分的局部光滑性部分平滑性下，能否得到哪些收敛性保证？

主要发现

• 在仅凸性的情况下，所提方法实现了子线性收敛。
• 在和函数的强凸性以及不可光滑部分的部分平滑性条件下，建立了线性收敛。
• 数值实验与理论相互印证，验证了自适应步长策略的有效性。