[論文レビュー] On Linear Optimization over Wasserstein Balls

Man–Chung Yue, Daniel Kühn+1 more|arXiv (Cornell University)|Apr 15, 2020

Risk and Portfolio Optimization参考文献 23被引用数 4

ひとこと要約

本稿は、やや厳しいモーメント条件のもとで Wasserstein ボールの弱コンパクト性を確立し、これらのボール上の線形最適化における最適解の存在に関する、簡単に検証可能な必要十分条件を提供する。さらに、基準測度が離散的である場合の最適解のスパarsityを特徴づけ、分布ロバスト最適化および機械学習分野における先行研究を改善する、自己完結的で簡潔かつ厳密な分析を提供する。

ABSTRACT

Wasserstein balls, which contain all probability measures within a pre-specified Wasserstein distance to a reference measure, have recently enjoyed wide popularity in the distributionally robust optimization and machine learning communities to formulate and solve data-driven optimization problems with rigorous statistical guarantees. In this technical note we prove that the Wasserstein ball is weakly compact under mild conditions, and we offer necessary and sufficient conditions for the existence of optimal solutions. We also characterize the sparsity of solutions if the Wasserstein ball is centred at a discrete reference measure. In comparison with the existing literature, which has proved similar results under different conditions, our proofs are self-contained and shorter, yet mathematically rigorous, and our necessary and sufficient conditions for the existence of optimal solutions are easily verifiable in practice.

研究の動機と目的

• 最小限の仮定のもとで Wasserstein ボールの弱コンパクト性を確立し、分布ロバスト最適化における最適解の存在を保証すること。
• Wasserstein ボール上の線形最適化における最適値の有限性および達成可能性に関する必要十分条件を導出すること。
• 基準測度が離散的である場合の最適解のスパarsityを特徴づけ、特に必要な最小原子数を特定すること。
• 複雑な双対性や最適性条件に依存せずに、自己完結的で簡潔かつ数学的に厳密な証明を提供すること。
• Wasserstein ボールの定式化の解析的基盤を明確にすることで、データ駆動型最適化に厳密な統計的保証を提供すること。

提案手法

• 基準測度 $\nu$ が $p$-次のモーメントをもつと仮定し、Prokhorov の定理と緊密性の議論を用いて Wasserstein ボール $\mathcal{B}_r(\nu)$ の弱コンパクト性を証明する。
• 目的関数 functional $\int_X f(x) \, d\mu(x)$ が実行可能集合上で弱い上半連続であることを示し、コンパクト性の議論への適用を可能にする。
• 三角不等式および Wasserstein 距離の性質を用いて、$\nu$ が $p$-次のモーメントをもつならば、$\mathcal{B}_r(\nu)$ に属するすべての測度が一様に有界な $p$-次のモーメントを持つことを示す。
• Prokhorov の定理を適用して、実行可能集合の弱コンパクト性を結論づけ、最適値が有限である場合に最適解の存在を保証する。
• 測度論的道具と付録における無限次元線形計画法の結果を用いて、最適解のスパarsityを特徴づけ、複雑な双対性や最適性条件に依存しない。
• 主定理を支持するために、測度論的道具と無限次元線形計画法の結果を用い、複雑な双対性理論や Richter-Rogosinski の定理に依存しない。

実験結果

リサーチクエスチョン

• RQ1 Wasserstein ボール $\mathcal{B}_r(\nu)$ が弱コンパクトであるのはどのような条件下か？
• RQ2 Wasserstein ボール上での線形最適化における最適値が有限かつ達成可能であるための必要十分条件は何か？
• RQ3 基準測度が離散的である場合、最適解を支持するに必要な最小の原子数は何か？
• RQ4 最小限の仮定と最大の数学的明確さのもとで、最適解の存在とスパarsityをどのように確立できるか？
• RQ5 複雑な双対性理論に依存せずに、Wasserstein 基盤の最適化における存在性およびスパarsityの結果を自己完結的かつ簡潔に証明できるか？

主な発見

• 基準測度 $\nu$ が $p$-次のモーメントをもつ限り、Wasserstein ボール $\mathcal{B}_r(\nu)$ は弱コンパクトである。
• 線形最適化問題 (3) の最適値が有限であるのは、積分 $\int_X [f(x)]_+ \, d\nu(x)$ が有限であるときかつそのときに限る。
• 最適値が有限である場合、最適解が存在し、緊密性と弱閉性により実行可能集合は弱コンパクトである。
• 基準測度 $\nu$ が $N$ 個の原子からなる離散的測度である場合、高々 $N+1$ 個の原子上で支持される最適解が存在する。
• 最適解の存在に関する必要十分条件は、過去の結果がより複雑な仮定を必要とするのとは異なり、実務上簡単に検証可能である。
• 証明は自己完結的であり、従来の研究よりも短く、よりアクセスしやすい。複雑な双対性理論や Richter-Rogosinski の定理に依存しない。