[論文レビュー] Adaptive Decentralized Composite Optimization via Three-Operator Splitting

Xiaokai Chen, Ilya Kuruzov+1 more|arXiv (Cornell University)|Feb 19, 2026

Distributed Control Multi-Agent Systems被引用数 0

ひとこと要約

論文は、局所バックトラッキングと三演算子分割フレームワークを用いてエージェントが自適応的にステップサイズを調整する分散最適化手法を提案し、局所的に滑らかな（強い）凹凸を持つ損失の和と非スムーズ凸項の組合せを効率的に扱えるようにする。

ABSTRACT

The paper studies decentralized optimization over networks, where agents minimize a sum of {\it locally} smooth (strongly) convex losses and plus a nonsmooth convex extended value term. We propose decentralized methods wherein agents {\it adaptively} adjust their stepsize via local backtracking procedures coupled with lightweight min-consensus protocols. Our design stems from a three-operator splitting factorization applied to an equivalent reformulation of the problem. The reformulation is endowed with a new BCV preconditioning metric (Bertsekas-O'Connor-Vandenberghe), which enables efficient decentralized implementation and local stepsize adjustments. We establish robust convergence guarantees. Under mere convexity, the proposed methods converge with a sublinear rate. Under strong convexity of the sum-function, and assuming the nonsmooth component is partly smooth, we further prove linear convergence. Numerical experiments corroborate the theory and highlight the effectiveness of the proposed adaptive stepsize strategy.

研究の動機と目的

• 局所的に滑らかな凸損失と非スムーズ凸項からなる複合目的関数のネットワーク上での分散最適化を動機づける。
• 軽量なミニコンセンサスプロトコルと組み合わせた局所バックトラッキングによる適応ステップサイズ戦略を開発する。
• 等価 Reformulation の三演算子分割因子化を導入し、分散実装を可能にする。

提案手法

• 問題の等価 Reformulation に適用された三演算子分割因子化を用いる。
• 分 Reformulation に分散実装を効率化する BCV 前処置計量（Bertsekas-O'Connor-Vandenberghe）を付与する。
• 局所的バックトラッキング手順による適応ステップサイズ調整を組み込む。
• エージェント間の情報交換に軽量なミニコンセンサスプロトコルを採用する。

実験結果

リサーチクエスチョン

• RQ1 非スムーズ項を含む分散複合最適化に適応ステップサイズをどう組み込むか。
• RQ2 三演算子分割と BCV 前処置が、適応ステップサイズと共に堅牢な分散収束を実現できるか。
• RQ3 非スムーズ部分の部分的滑らかさを持つ場合の単純凸性と強凸性の下で、どのような収束保証が成り立つか。

主な発見

• 提案手法は単純凸性の下で部分的な収束を達成する。
• 和関数の強凸性と非スムーズ部分の部分的滑らかさの下で線形収束を確立する。
• 数値実験が理論を裏付け、適応ステップサイズ戦略の効果を示す。