[論文レビュー] Sinkhorn Distributionally Robust Optimization

Jie Wang, Rui Gao+1 more|arXiv (Cornell University)|Sep 24, 2021

Risk and Portfolio Optimization参考文献 70被引用数 7

ひとこと要約

本稿では、正則化されたウォッサーシュタイン距離であるシンコルマン距離を用いた、新たな分布ロバスト最適化（DRO）フレームワーク、Sinkhorn DROを提案する。このフレームワークにより、一般の損失関数および輸送コストに対しても凸双対性の再定式化が可能となり、サンプル複雑性がほぼ最適に達成される。確率的ミラー降下法を用い、バイアス付き勾配オракルを採用することで、計算の実行可能性とモデルの現実性を向上させつつ、ウォッサーシュタイン DRO よりも優れた性能を達成する。

ABSTRACT

We study distributionally robust optimization with Sinkhorn distance -- a variant of Wasserstein distance based on entropic regularization. We derive a convex programming dual reformulation for general nominal distributions, transport costs, and loss functions. To solve the dual reformulation, we develop a stochastic mirror descent algorithm with biased subgradient estimators and derive its computational complexity guarantees. Finally, we provide numerical examples using synthetic and real data to demonstrate its superior performance.

研究の動機と目的

• ウォッサーシュタイン DRO の計算の非実行可能性とモデル化の過剰な保守性を解消すること、特に一般の損失関数および連続的サポートの下で。
• 計算の実行可能性を維持しつつ、従来のウォッサーシュタイン DRO よりもより現実的な最悪ケース分布を生成する DRO フレームワークを開発すること。
• 滑らかでない損失関数を含む、滑らかおよび滑らかでない損失関数の両方において、経験的リスク最小化とほぼ同じサンプル複雑性を達成すること。
• 効率的な確率的最適化を可能にする、双対に基づく Sinkhorn DRO の再定式化を提供すること。

提案手法

• エントロピー正則化を用いて、一般の名目分布、輸送コスト、損失関数に対して有効な、Sinkhorn DRO の凸計画法双対再定式化を導出する。
• 双対再定式化を解くために、バイアス付き勾配オラクルを用いた確率的ミラー降下（SMD）アルゴリズムを提案する。
• 勾配のバイアスと分散を制御するために、2つのサンプリング方式—確率的勾配（SG）およびランダム化マルチレベルモンテカルロ（RT-MLMC）—を採用する。
• リプシッツ連続性と部分勾配の有界性を活用し、不正確なオラクルを用いた二分探索法により、双対変数（ラグランジュ乗数）を最適化する。
• 総計算コストを最小化するためのバッチサイズ選択戦略として、$ m = \lceil \log_2(1/\eta) \rceil $ を導入する。
• 理論的境界を確立し、SG に対して $ \mathcal{O}(\delta^{-3} \log(1/\eta)) $、RT-MLMC に対して $ \widetilde{\mathcal{O}}(\delta^{-2} \log(1/\eta)) $ のサンプル複雑性を示し、経験的リスク最小化の $ \mathcal{O}(\delta^{-2}) $ にほぼ一致することを示す。

実験結果

リサーチクエスチョン

• RQ1 Sinkhorn DRO は、一般の損失関数および輸送コストに対して、ウォッサーシュタイン DRO よりも計算の実行可能性が高く、過剰に保守的でない代替手段を提供できるか？
• RQ2 Sinkhorn DRO におけるエントロピー正則化の使用は、ウォッサーシュタイン DRO の離散的最悪ケース測度と比較して、より現実的な最悪ケース分布をもたらすか？
• RQ3 バイアス付きオラクルを用いた確率的ミラー降下アルゴリズムは、経験的リスク最小化と同等の性能を達成する近似的に最適なサンプル複雑性を実現できるか？
• RQ4 異なるサンプリング方式において、Sinkhorn DRO の総計算コストを最小化する最適なバッチサイズ戦略は何か？

主な発見

• 提案された Sinkhorn DRO フレームワークは、一般の損失関数、輸送コスト、名目分布に対して適用可能な凸双対性再定式化を達成し、効率的な最適化を可能にする。
• SG および RT-MLMC 方式を用いた確率的ミラー降下アルゴリズムは、それぞれ $ \mathcal{O}(\delta^{-3} \log(1/\eta)) $ および $ \widetilde{\mathcal{O}}(\delta^{-2} \log(1/\eta)) $ のサンプル複雑性を達成し、経験的リスク最小化の最適な $ \mathcal{O}(\delta^{-2}) $ にほぼ一致する。
• Sinkhorn DRO の最悪ケース分布は、特に真の分布が連続的である場合、ウォッサーシュタイン DRO の離散的最悪ケース測度よりも現実的である。
• 最適なバッチサイズ $ m = \lceil \log_2(1/\eta) \rceil $ は、勾配バイアスと分散のバランスを最適化し、総計算コストを最小化する。
• 理論的解析により、双対目的関数が凸的かつリプシッツ連続であることが確認され、不正確なオラクルを用いた効率的な二分探索法の適用が可能である。
• 合成データおよび実データを用いた数値実験により、ロバスト性および計算効率の両面で、Sinkhorn DRO がウォッサーシュタイン DRO より優れた性能を示すことが確認された。