[논문 리뷰] Two-stage stochastic algorithm for solving large-scale (non)-convex separable optimization problems under affine constraints

Benjamin Dubois-Taine, Laurent Pfeiffer외 3명|arXiv (Cornell University)|2026. 02. 06.

Stochastic Gradient Optimization Techniques인용 수 0

한 줄 요약

이 논문은 아핀 제약 조건이 있는 대규모 분리 최적화를 해결하기 위한 2단계 방법을 제시하며, 오라클 호출 수를 줄이기 위해 확률적 이중 하강 단계와 블록-좌표 Frank-Wolfe 프라이멀 회복을 결합한다. 또한 수렴 보장을 유지하면서 비볼록 설정으로 확장된다.

ABSTRACT

We consider nonsmooth optimization problems under affine constraints, where the objective consists of the average of the component functions of a large number $N$ of agents, and we only assume access to the Fenchel conjugate of the component functions. The algorithm of choice for solving such problems is the dual subgradient method, also known as dual decomposition, which requires $O(\frac{1}{ε^2})$ iterations to reach $ε$-optimality in the convex case. However, each iteration requires computing the Fenchel conjugate of each of the $N$ agents, leading to a complexity $O(\frac{N}{ε^2})$ which might be prohibitive in practical applications. To overcome this, we propose a two-stage algorithm, combining a stochastic subgradient algorithm on the dual problem, followed by a block-coordinate Frank-Wolfe algorithm to obtain primal solutions. The resulting algorithm requires only $O(\frac{1}{ε^2} + \frac{N}{ε^{2/3}})$ calls to Fenchel conjugates to obtain an $ε$-optimal primal solution in expectation in the convex case. We extend our results to nonconvex component functions and show that our method still applies and gets (almost) the same convergence rate, this time only to an approximate primal solution recovering the classical duality gap bounds usually obtained using the Shapley-Folkman theorem.

연구 동기 및 목표

• 구성 함수의 Fenchel 쌍만 접근 가능한 아핀 제약이 있는 대규모 분리 최적화를 다룬다.
• 2단계 접근법을 통해 오라클 호출 복잡도를 O(N/ε^2)에서 더 낮은 하한으로 개선한다.
• 수렴성 보장을 유지하면서 비볼록 구성 함수로 프레임워크를 확장한다.

제안 방법

• 문제 (P)와 그 대립 문제 (D)를 x_i^*(λ)을 X_i에서 h_i(x_i) + λ^T A_i x_i를 풀어 얻는 오라클 (O1)로 형식화한다.
• 결정론적 이중 서브그래디언트를 분석하여 프라이멀 및 이중 해를 얻기 위한 O(N/ε^2) 오라클 호출이 필요함을 보인다.
• Stage 1 도입: 매 이터레이션마다 하나의 인덱스를 샘플링하여 확률적 이중 서브그래디언트를 계산하고 λ를 업데이트한다.
• Stage 2 도입: 이중 정보를 이용해 프라이멀 해를 회복하기 위해 정교하게 구성된 매끄러운 목적 함수에 대한 블록-좌표 Frank-Wolfe 알고리즘을 적용한다.
• Algorithm 4에서 두 단계를 결합하여 기대값에서 ε-정확한 프라이멀 해에 대해 전체 오라클 호출 복잡도 O(1/ε^2 + N/ε^{2/3})를 얻는다.

실험 결과

연구 질문

• RQ1 아핀 제약하에서 대규모 분리 문제의 오라클 호출 복잡도를 2단계 접근으로 줄일 수 있는가?
• RQ2 확률적 이중 업데이트와 Frank-Wolfe 프라이멀 회복을 결합하여 ε-정확한 프라이멀 해를 어떻게 효율적으로 얻을 수 있는가?
• RQ3 제안된 두 단계가 구성 함수가 비볼록일 때 수렴 보장을 유지하는가?
• RQ4 이중 및 프라이멀 수렴 속도는 무엇이며 N과 ε에 따라 어떻게 스케일하는가?

주요 결과

• 결정론적 이중 서브그래디언트는 프라이멀 및 이중 정확도를 얻기 위해 O(N/ε^2) 오라클 호출이 필요하다.
• 볼록 경우에서 두 단계 알고리즘은 기대값에서 ε-정확한 프라이멀 해를 얻기 위해 O(1/ε^2 + N/ε^{2/3}) 오라클 호출을 달성한다.
• 비볼록 확장에서도 이 방법은 여전히 적용되며 Shapley-Folkman에 의한 이중성 간극 경계와 함께 근사 프라이멀 해에 대해 거의 같은 수렴 속도를 얻는다.
• Stage 1은 확률적 업데이트로 이중 수렴 속도를 개선하고, Stage 2는 블록-좌표 Frank-Wolfe를 활용해 프라이멀 가용성과 최적성을 회복한다.
• 전반적인 프레임워크는 순전히 결정론적 이중 서브그래디언트에 비해 N에 대한 의존도가 향상된 기대값의 ε-정확한 프라이멀 해를 산출한다.