[논문 리뷰] Distributed Distributionally Robust Optimization with Non-Convex Objectives

Yang Jiao, Kai Yang외 1명|arXiv (Cornell University)|2022. 10. 14.

Risk and Portfolio Optimization인용 수 6

한 줄 요약

이 논문은 비볼록 목적 함수와 수렴 보장을 갖는 이방향 분산 알고리즘인 ASPIRE-EASE를 제안한다. 이 알고리즘은 제약 조건이 있는 D-노름 불확실성 집합을 도입하여 사전 분포를 효과적으로 통합하고 유연하게 강건성을 조절한다. 이 방법은 비볼록 목표 함수에서도 수렴을 보장하며, 실제 데이터셋에서 빠른 수렴 속도, 데이터 이질성 및 악성 공격에 대한 강건성, 강건성과 성능 간의 유리한 트레이드오프를 보여준다.

ABSTRACT

Distributionally Robust Optimization (DRO), which aims to find an optimal decision that minimizes the worst case cost over the ambiguity set of probability distribution, has been widely applied in diverse applications, e.g., network behavior analysis, risk management, etc. However, existing DRO techniques face three key challenges: 1) how to deal with the asynchronous updating in a distributed environment; 2) how to leverage the prior distribution effectively; 3) how to properly adjust the degree of robustness according to different scenarios. To this end, we propose an asynchronous distributed algorithm, named Asynchronous Single-looP alternatIve gRadient projEction (ASPIRE) algorithm with the itErative Active SEt method (EASE) to tackle the distributed distributionally robust optimization (DDRO) problem. Furthermore, a new uncertainty set, i.e., constrained D-norm uncertainty set, is developed to effectively leverage the prior distribution and flexibly control the degree of robustness. Finally, our theoretical analysis elucidates that the proposed algorithm is guaranteed to converge and the iteration complexity is also analyzed. Extensive empirical studies on real-world datasets demonstrate that the proposed method can not only achieve fast convergence, and remain robust against data heterogeneity as well as malicious attacks, but also tradeoff robustness with performance.

연구 동기 및 목표

• 비볼록 목표 함수를 갖는 분산 DRO에 대해 수렴 보장이 있는 이방향 분산 알고리즘을 설계하는 데 도전한다.
• 사전 분포 정보를 효과적으로 활용하면서도 강건성 조절이 가능한 불확실성 집합을 개발한다.
• 이전 DRO 방법의 한계, 즉 데이터 이질성에 대한 취약성, 악성 공격에 대한 취약성, 비볼록 설정에 대한 제한된 지원을 극복한다.
• 제안된 알고리즘에 대해 이방향 분산 환경에서 이론적 수렴 보장과 반복 복잡도 분석을 제공한다.
• 실제 데이터 분포 하에서 강건성, 수렴 속도, 성능 트레이드오프를 실증적으로 검증한다.

제안 방법

• ASPIRE-EASE 알고리즘을 제안하며, 이는 이방향 단일루프 투영 경사 하강법과 DRO 문제를 해결하기 위한 반복적 활성집합 방법(EASE)을 결합한다.
• 제약 조건이 있는 D-노름 불확실성 집합을 도입하여 사전 분포 정보를 제약 조건 내에 통합함으로써 타당성과 함께 강건성 조절의灵活性를 보장한다.
• 모델 파라미터가 공유 변수를 통해 일致 조건을 통해 워커 간에 동기화되는, 공유 변수를 갖는 최소-최대 최적화로 DRO 문제를 재구성한다.
• D-노름 불확실성 집합을 위한 절단 평면 생성 부문 문제를 선형계획법 유형 최적화 기반으로 사용하여, SOCP나 REP 기반 대안보다 계산적으로 더 효율적이다.
• 이방향 환경에서 비볼록 목표 함수를 다루기 위해 적응형 스텝 크기와 활성집합 식별을 적용한 프록시멀 경사 하강법을 적용한다.
• 문제를 워커 간에 분해하기 위해 이중 분해 접근법을 통합하여 최소한의 조율으로 분산 계산을 가능하게 한다.

실험 결과

연구 질문

• RQ1 비볼록 DRO에 대해 수렴 보장과 낮은 통신 오버헤드를 갖는 이방향 분산 알고리즘을 설계할 수 있는가?
• RQ2 사전 분포 정보를 어떻게 효과적으로 불확실성 집합에 통합하여 타당성을 해치지 않으면서 강건성을 향상시킬 수 있는가?
• RQ3 기존의 타원체나 KL-발산 집합과 비교해, D-노름 불확실성 집합이 계산 효율성을 유지하면서도 강건성 조절을 얼마나 잘 유연하게 수행할 수 있는가?
• RQ4 이방향 비볼록 환경에서 제안된 알고리즘의 이론적 반복 복잡도는 무엇인가?
• RQ5 데이터 이질성, 시스템 지연, 악성 조건 하에서 이 방법은 실제로 어떻게 성능을 발휘하는가?

주요 결과

• ASPIRE-EASE 알고리즘은 이방향 분산 환경에서 ε-정류점으로 수렴하며, 반복 복잡도가 O(1/ε⁶)임을 확보한다.
• 제약 조건이 있는 D-노름 불확실성 집합은 사전 분포 정보를 효과적으로 통합하고 강건성 수준을 탄력적으로 조절할 수 있어 모델 일반화를 향상시킨다.
• 실증 결과는 GDmax나 GDA와 같은 기존 방법보다 수렴 속도가 더 빠르며, 비I.I.D. 및 악성 데이터 조건 하에서도 특히 두드러진다.
• 이 방법은 데이터 이질성과 악성 공격에 대해 강건성을 유지하며, 다양한 워커 분포에서 높은 성능을 유지한다.
• 알고리즘은 강건성과 성능 간의 유리한 트레이드오프를 달성하며, 수렴 속도와 강건성 측면에서 DRFA-Prox와 AFL을 능가한다.
• D-노름 집합을 사용한 절단 평면 부문 문제의 계산은 효율적이며, 병합 정렬을 통해 해결 가능하여 SOCP나 REP 기반 대안보다 더 확장 가능성이 높다.