[논문 리뷰] Variable Stepsize Distributed Forward-Backward Splitting Methods as Relocated Fixed-Point Iterations

Felipe Atenas, Minh N. Dao외 1명|arXiv (Cornell University)|2026. 01. 21.

Optimization and Variational Analysis인용 수 0

한 줄 요약

논문은 구조화된 단조 포함 문제를 위한 가변-단계 분산 전방-후방 분할 방법의 프레임워크를 재배치된 고정점 반복을 통해 개발하고, 상수-단계 크기 방법의 이터당 비용 및 수렴 특성을 보존합니다. 이는 콘형 평균화된 연산자에 확장되며 그래프 기반 다연산자 변형을 포함합니다.

ABSTRACT

We present a family of distributed forward-backward methods with variable stepsizes to find a solution of structured monotone inclusion problems. The framework is constructed by means of relocated fixed-point iterations, extending the approach introduced in arXiv:2507.07428 to conically averaged operators, thus including iteration operators for methods of forward-backward type devised by graphs. The family of methods we construct preserve the per-iteration computational cost and the convergence properties of their constant stepsize counterparts. Specifically, we show that the resulting methods generate a sequence that converges to a fixed-point of the underlying iteration operator, whose shadow sequences converge to a solution of the problem. Numerical experiments illustrate the behaviour of our framework in structured sparse optimisation problems.

연구 동기 및 목표

• 가변 단계 크기를 갖는 분산 전방-후방 분할을 사용하여 구조화된 단조 포함 문제를 제시하고 해결한다.
• 가변 매개변수로 수렴 보장을 보존하기 위해 재배치된 고정점 반복을 콘형 평균화된 연산자에 확장한다.
• 분산 환경에서 이터당 비용 및 수렴 특성을 보존하며 다연산자 전방-후방 방법을 가능하게 한다.
• 확장 가능한 분산 프레임워크에서 그래프 기반 구조를 도입하여 다연산 포함을 처리한다.

제안 방법

• 콘형 평균화 연산자 프레임워크를 정의하고 파라메트릭 계열에 대해 demiclosedness 원리를 확장한다.
• 재배치된 반복을 위한 고정점 재배치자를 도입하고 재배치된 반복에 대한 핵심 성질을 증명한다.
• 특정 가정하에 행렬 M, N, P, R을 사용하여 가변 단계 크기의 분산 전방-후방 반복 연산자를 구성한다.
• 재배치된 고정점 반복이 고정점으로 수렴하고 그림자 시퀀스가 문제 해답으로 수렴함을 증명한다.
• 다연산자 및 그래프 기반 전방-후방 방법으로 특수화하며 재배치된 세-연산자(Davis–Yin) 스킴을 특수한 경우로 포함한다.
• 방법이 이터당 비용과 수렴 보장을 유지하는 조건을 도출한다.

(a) Relative error of $(x_{k})_{k\in\mathbbm{N}}$ .

실험 결과

연구 질문

• RQ1 가변 단계 크기를 갖는 분산 전방-후방 방법이 구조화된 단조 포함 문제에 대해 수렴 보장을 갖고 개발될 수 있는가?
• RQ2 재배치된 고정점 반복을 콘형 평균화 연산자로 확장하여 다연산자 및 그래프 기반 전방-후방 스킴을 포함시킬 수 있는가?
• RQ3 분산 다연산 포함에 대해 이터당 비용을 보존하고 수렴을 가능하게 하는 고정점 재배치자 구성은 무엇인가?
• RQ4 이 재배치 방법들이 분산 환경에서 알려진 전방-후방 및 Davis–Yin 스킴과 어떤 관련이 있으며 어떻게 일반화되는가?

주요 결과

• 가변 매개변수 하에서 수렴 해석을 가능하게 하는 콘형 평균화된 연산자에 대한 매개변수화된 demiclosedness 프레임워크를 확립했다.
• 고정점 재배치자가 서로 다른 단계 크기 간에 고정점을 매핑하는 것으로 정의되고 이를 통해 재배치 기반 반복이 가능해진다.
• 구조적 가정을 만족하는 행렬 M, N, P, R을 사용하여 분산 전방-후방 연산자를 형성하고 대응하는 재배치 고정점 e^γ를 구성했다.
• 코코에르시비성 가정 및 명시된 행렬 조건하에 재배치된 반복은 고정점으로 수렴하고 섀도우 시퀀스는 단조 포함의 해에 수렴한다.
• 프레임워크는 그래프 기반의 전방-후방 방법을 포함하고 재배치된 Davis–Yin 세-연산자 스킴을 특수한 경우로 포함한다.
• 이터당 계산 비용이 상수 단계 크기 대응분과 비교하여 보존된다.

(b) Relative error of $(y_{k})_{k\in\mathbbm{N}}$ .