[논문 리뷰] Communication reduction in distributed optimization via estimation of the proximal operator

Giorgos Stathopoulos, Colin N. Jones|arXiv (Cornell University)|2018. 03. 19.

Numerical methods in inverse problems참고 문헌 11인용 수 11

한 줄 요약

이 논문은 더모 엔벨로프와 $ε$-서브드레지언셜을 통해 유도된 볼록집합을 이용해 프록시벌 하위문제의 해를 추정하는 통신 감소 프레임워크를 제안한다. 중심 협의자는 각 에이전트의 최적화해를 포함하는 타원체 집합을 유지하고 정밀도를 향상시키며, 정확도가 부족함을 확인하는 인증 테스트를 통과할 경우에만 통신을 유도한다. 마이크로그리드 부하공유 사례 연구에서 통신 라운드 수를 46% 이상 감소시키면서 수렴성을 보장한다.

ABSTRACT

We introduce a reduced-communication distributed optimization scheme based on estimating the solution to a proximal minimization problem. Our proposed setup involves a group of agents coordinated by a central entity, altogether operating in a collaborative framework. The agents solve proximal minimization problems that are hidden from the central coordinator. The scheme enables the coordinator to construct a convex set within which the agents' optimizers reside, and to iteratively refine the set every time that an agent is queried. We analyze the quality of the constructed sets by showing their connections to the ε-subdifferential of a convex function and characterize their size. We prove convergence results related to the solution of such distributed optimization problems and we devise a communication criterion that embeds the proposed scheme in the Alternating Direction Method of Multipliers (ADMM). The developed scheme demonstrates significant communication reduction when applied to a microgrid setting.

연구 동기 및 목표

• 에이전트의 데이터가 기밀을 유지되어야 하는 분산 최적화에서 통신 오버헤드를 줄이기 위해.
• 중앙 협의자가 직접적인 통신 없이 에이전트의 프록시벌 해를 추정할 수 있도록 하기 위해.
• 통신이 필요한 시점을 결정하는 인증 테스트를 개발하여 불필요한 업데이트를 최소화하기 위해.
• 프록시벌 해의 추정 오차가 존재하더라도 최적화 과정의 수렴성을 보장하기 위해.
• 기울기 방법을 초월해 ADMM 기반 분산 솔버로의 적용 가능성을 넓히기 위해.

제안 방법

• 협의자는 더모 엔벨로프와 그 서브드레지언셜 성질을 이용해 각 에이전트의 프록시벌 문제의 진짜 최적해를 포함하는 볼록집합—특히 타원체의 교차 집합—을 구성한다.
• 각 통신 라운드마다, 쿼리된 에이전트로부터의 기울기 정보를 사용하여 집합을 반복적으로 정밀화한다.
• 구축된 집합과 더모 엔벨로프의 상한 함수에 대한 $ε$-서브드레지언셜 간의 관계를 활용하여, 최악의 경우 경계에서 최적성을 보장한다.
• 계산을 위해 집합의 근사치를 사용하며, 최근의 쿼리 포인트와 기울기들만 유지하는 제한된 메모리 전략을 기반으로 한다.
• ADMM에 통신 기준을 통합하기 위해, 현재 추정치가 통신 라운드를 건너뛸 수 있을 정도로 충분히 정확한지 확인하는 인증 테스트를 유도한다.
• 수렴성은 오차가 있는 고정점 반복에 기반하여 증명되며, 추정된 집합을 사용해 이중 변수를 예측하고 공통 변수를 갱신함으로써 ADMM와 결합된다.

실험 결과

연구 질문

• RQ1 중앙 협의자가 분산 최적화에서 통신을 줄이기 위해 충분한 정확도로 프록시벌 하위문제의 해를 추정할 수 있는가?
• RQ2 더모 엔벨로프와 $ε$-서브드레지언셜 측면에서 추정된 해 집합의 품질은 어떻게 특성화할 수 있는가?
• RQ3 추정 오차가 수렴성에 미치는 영향은 무엇이며, 수렴성이 여전히 보장될 수 있는가?
• RQ4 통신을 유도하는 기준은 통신 절감과 수렴 속도 사이의 균형을 어떻게 달성할 수 있는가?
• RQ5 제안된 프레임워크는 ADMM에 성공적으로 통합될 수 있으며, 어떤 성능 향상이 달성될 수 있는가?

주요 결과

• 제안된 방법은 마이크로그리드 부하공유 문제에서 표준 ADMM 대비 약 46%의 통신 라운드 감소를 달성하여, 에이전트당 라운드 수를 160에서 87로 줄였다.
• 추정 오차로 인한 초기 반복에서의 궤적 이탈로 인해 반복 수는 표준 ADMM의 160회에서 247회로 증가하였다.
• 에이전트당 최근 5~10개의 쿼리 포인트만 사용하는 제한된 메모리 전략을 통해 전체 메모리 버전과 거의 동일한 성능를 달성했으며, 계산 오버헤드도 최소화되었다.
• 에이전트당 평균 해결 시간은 전체 메모리 기반의 약 7초에서 제한된 메모리 기반의 약 1초로 감소하여 뚜렷한 계산 효율성 향상을 보였다.
• 단 한 개의 최근 기울기 포인트만 사용하는 경우(M=1)에도 성능 저하가 미미하여, 소수의 포인트만으로도 효과적인 근사가 가능함을 시사했다.
• 구축된 볼록집합이 알려지지 않은 더모 엔벨로프 함수에 대한 가장 날카로운 상한 함수에 대해 최적이었음을 입증하였다.