[論文レビュー] Optimal Transport Based Distributionally Robust Optimization: Structural Properties and Iterative Schemes

José Blanchet, Karthyek Murthy+1 more|arXiv (Cornell University)|Oct 4, 2018

Risk and Portfolio Optimization参考文献 38被引用数 25

ひとこと要約

本稿は、局所的強凸性を示すコスト関数とアフィン意思決定ルールを用いた最適輸送に基づく分布ロバスト最適化（DRO）フレームワークを開発する。元の問題が強凸でない場合でさえ、DRO問題における強凸性といった構造的性質を確立し、確率的勾配降下法（SGD）と同等のサンプル数および反復回数の複雑さを持つ効率的な反復的アルゴリズムを可能にし、ややきめ細かい条件下で最適収束速度を達成する。

ABSTRACT

We consider optimal transport based distributionally robust optimization (DRO) problems with locally strongly convex transport cost functions and affine decision rules. Under conventional convexity assumptions on the underlying loss function, we obtain structural results about the value function, the optimal policy, and the worst-case optimal transport adversarial model. These results expose a rich structure embedded in the DRO problem (e.g. strong convexity even if the non-DRO problem was not strongly convex, a suitable scaling of the Lagrangian for the DRO constraint, etc. which are crucial for the design of efficient algorithms). As a consequence of these results, one can develop efficient optimization procedures which have the same sample and iteration complexity as a natural non-DRO benchmark algorithm such as stochastic gradient descent.

研究の動機と目的

• データ駆動型最適化におけるロバスト性を向上させるために、局所的強凸性を示すコスト関数と最適輸送を用いた柔軟なDROフレームワークの構築。
• 特に大規模データに対して既存のDRO手法の計算限界を克服し、効率的な反復的アルゴリズムを可能にする。
• 元の問題がそれらの性質を有さない場合でさえ、DRO問題の構造的性質（強凸性、値関数の凸性など）を同定する。
• マハラノビス型コスト関数を用いたDRO定式化が、暗黙の正則化を導き、非DROベンチマークと同等の計算効率を維持することを示す。
• 標準的なウォッサーシュタイン距離を超える、より一般的な滑らかで強凸性を示す輸送コスト関数へのDROの拡張の基盤を提供する。

提案手法

• 局所的強凸性を示すコスト関数を用いた最適輸送に基づくDRO問題を定式化し、ウォッサーシュタインに類似た不確実性集合を用いて分布的不確実性をモデル化する。
• アフィン意思決定ルールを適用して問題を有限次元最適化に還元し、計算が可能になるようにする。
• 凸解析と2次条件を用いて、値関数および最適方策の構造的性質を導出し、局所的強凸性を確立する。
• エンvelope定理を用いて確率的勾配を効率的に計算し、確率的最適化手法の使用を可能にする。
• DRO目的関数の強凸性と滑らかさを活用して、反復スキーム（例：確率的勾配降下法）を構築する。
• 漸近正規性と固有値の境界を用いて収束速度を分析し、反復列が $ O_p(k^{-1}) $ のレートで収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 局所的強凸性を示すコスト関数を用いた最適輸送ベースのDROは、標準的な非DRO問題と比較して計算効率を維持または向上させることができるか？
• RQ2 柔軟なコスト関数を用いたDRO定式化は、元の問題が強凸でない場合でも強凸性を誘導するか？
• RQ3 最悪ケースの分布は質量輸送の観点でどのように振る舞うか？また、$ ilde{O}( ilde{ ho}) $ の形で表せるか？（$ ilde{ ho} $ は小さいパラメータ）
• RQ4 このようなコスト関数を用いたDRO問題に確率的勾配法を効果的に適用可能か？その収束速度は？
• RQ5 これらの仮定の下で、DRO定式化から生じる値関数および最適方策の構造的性質（例：凸性、滑らかさ）は何か？

主な発見

• 局所的強凸性を示すコスト関数を用いたDRO問題は、元の問題が強凸でない場合でさえ、意思決定変数において局所的強凸性を示す。
• DRO定式化における最悪ケースの分布は、$ O_p( ilde{ ho}) $ のオーダーの質量を輸送する。ここで $ ilde{ ho} $ は不確実性レベルに関連する小さな摂動パラメータであり、意味のある悪意のある挙動を保証する。
• DRO問題の値関数は凸であり、連続的に微分可能であり、ヘッセ行列の有界性が $ ilde{ ho}^{-1/4} $ の形で表される。これにより安定した最適化が可能になる。
• DRO問題に確率的勾配降下法を適用した場合、収束速度は $ O_p(k^{-1}) $ となり、標準的な非DRO問題と同等の収束速度を達成する。
• 最適方策および値関数は、局所的近傍において共同で強凸であるため、高速な収束とロバストネスが保証される。
• 追加のロバストネスにもかかわらず、サンプル数および反復回数の複雑さが標準的な確率的勾配降下法と同等のため、効率的な計算が可能になる。