[論文レビュー] Distributed Distributionally Robust Optimization with Non-Convex Objectives

Yang Jiao, Kai Yang+1 more|arXiv (Cornell University)|Oct 14, 2022

Risk and Portfolio Optimization被引用数 6

ひとこと要約

本稿では、非凸分布ロバスト最適化（DDRO）の非同期分散アルゴリズムとしてASPIRE-EASEを提案する。この手法は、制約付きDノルム不確実性集合を導入し、事前分布を効果的に組み込み、ロバスト性を柔軟に制御できる。非凸目的関数においても収束を保証し、実世界のデータセットにおいて高速な収束性、データ非独立同分布（non-IID）や悪意ある攻撃に対するロバスト性、およびロバスト性と性能の良好なトレードオフを示す。

ABSTRACT

Distributionally Robust Optimization (DRO), which aims to find an optimal decision that minimizes the worst case cost over the ambiguity set of probability distribution, has been widely applied in diverse applications, e.g., network behavior analysis, risk management, etc. However, existing DRO techniques face three key challenges: 1) how to deal with the asynchronous updating in a distributed environment; 2) how to leverage the prior distribution effectively; 3) how to properly adjust the degree of robustness according to different scenarios. To this end, we propose an asynchronous distributed algorithm, named Asynchronous Single-looP alternatIve gRadient projEction (ASPIRE) algorithm with the itErative Active SEt method (EASE) to tackle the distributed distributionally robust optimization (DDRO) problem. Furthermore, a new uncertainty set, i.e., constrained D-norm uncertainty set, is developed to effectively leverage the prior distribution and flexibly control the degree of robustness. Finally, our theoretical analysis elucidates that the proposed algorithm is guaranteed to converge and the iteration complexity is also analyzed. Extensive empirical studies on real-world datasets demonstrate that the proposed method can not only achieve fast convergence, and remain robust against data heterogeneity as well as malicious attacks, but also tradeoff robustness with performance.

研究の動機と目的

• 非凸目的関数を伴うDDROのための非同期分散アルゴリズムを設計し、収束保証を達成すること。
• 事前分布を効果的に活用できるが、同時にロバスト性の制御が柔軟に行える不確実性集合を開発すること。
• 従来のDRO手法に見られる限界、例えばデータ非独立同分布（non-IID）の処理が不十分であること、悪意ある攻撃に対して脆弱であること、非凸設定への対応が限られていることなどを克服すること。
• 非同期かつ分散環境下での提案アルゴリズムについて、理論的収束保証と反復複雑度解析を提供すること。
• 実世界のデータ分布下で、本手法のロバスト性、収束速度、性能トレードオフを経験的に検証すること。

提案手法

• 非同期単一ループ投影勾配法と、DDRO問題を解くための反復的アクティブセット法（EASE）を組み合わせたASPIRE-EASEアルゴリズムを提案する。
• 制約付きDノルム不確実性集合を導入し、制約内に事前分布の情報を埋め込むことで、妥当性を保ちつつロバスト性の調整を柔軟に可能にする。
• モデルパラメータが共通変数を介してコンSENSUS制約によりワーカー間で同期される、最小化-最大化最適化問題への再定式化を採用する。
• Dノルム不確実性集合のためのカットプレーン生成部分問題を、LP型最適化に基づいて構築し、SOCPやREPベースの代替手法よりも計算が効率的である。
• 非凸目的関数を非同期環境で扱うために、適応的ステップサイズを用いたプロキシマル勾配法とアクティブセット同定を適用する。
• 問題をワーカー間で分解できるようにするため、双対分解アプローチを統合し、最小限の調整で分散計算を実現する。

実験結果

リサーチクエスチョン

• RQ1 非凸DROのための非同期分散アルゴリズムを設計でき、収束保証と低通信量を両立できるか？
• RQ2 事前分布の情報を不確実性集合に効果的に組み込む方法は何か？ これによりロバスト性が向上するが、妥当性は損なわれないか？
• RQ3 Dノルム不確実性集合は、楕円体やKLダイバージェンスなどの既存の集合と比較して、計算効率を維持しながらロバスト性の柔軟な制御を可能にするか？
• RQ4 非同期かつ非凸設定下での提案アルゴリズムの理論的反復複雑度は何か？
• RQ5 実際の環境では、データ非独立同分布、システム遅延、悪意ある条件下でも本手法はどのように性能を発揮するか？

主な発見

• ASPIRE-EASEアルゴリズムは、非同期分散環境下でε-停留点への収束を達成し、反復複雑度はO(1/ε⁶)である。
• 制約付きDノルム不確実性集合により、事前分布の情報が効果的に組み込まれ、ロバスト性レベルの柔軟な調整が可能となり、モデルの一般化性能が向上する。
• 経験的結果では、GDmax や GDA と比較して収束が速く、特に非独立同分布（non-IID）および悪意あるデータ条件下で顕著な優位性を示す。
• 本手法はデータ非独立同分布や悪意ある攻撃に対してもロバストであり、多様なワーカー分布においても高い性能を維持する。
• アルゴリズムはロバスト性と性能の良好なトレードオフを達成し、収束速度とロバスト性の両面でDRFA-Prox や AFL を上回る。
• Dノルム集合を用いたカットプレーン部分問題は計算的に効率的であり、マージソートを用いて解けるため、SOCP や REP ベースの代替手法よりもスケーラブルである。