[論文レビュー] Distributionally Robust Stochastic Optimization with Dependence Structure

Rui Gao, Anton J. Kleywegt|arXiv (Cornell University)|Jan 16, 2017

Risk and Portfolio Optimization参考文献 25被引用数 31

ひとこと要約

本稿は、線形相関および順位依存性（例えば、コーパラを用いて）をアンビギュイティ集合に明示的に組み込むことで、分布的に頑健な確率的最適化（DRSO）フレームワークを提案する。Wasserstein距離とモーメントまたはコーパラに基づく制約を組み合わせることで、解釈可能で計算可能な双対再定式化を導出し、数値実験において従来のモーメントベースのDROやWassersteinのみのDROアプローチを凌駆する、外挙動性能を向上させる。

ABSTRACT

Distributionally robust stochastic optimization (DRSO) is a framework for decision-making problems under certainty, which finds solutions that perform well for a chosen set of probability distributions. Many different approaches for specifying a set of distributions have been proposed. The choice matters, because it affects the results, and the relative performance of different choices depend on the characteristics of the problems. In this paper, we consider problems in which different random variables exhibit some form of dependence, but the exact values of the parameters that represent the dependence are not known. We consider various sets of distributions that incorporate the dependence structure, and we study the corresponding DRSO problems. In the first part of the paper, we consider problems with linear dependence between random variables. We consider sets of distributions that are within a specified Wasserstein distance of a nominal distribution, and that satisfy a second-order moment constraint. We obtain a tractable dual reformulation of the corresponding DRSO problem. This approach is compared with the traditional moment-based DRSO and Wasserstein-based DRSO with no moment constraints. Numerical experiments suggest that our new formulation has superior out-of-sample performance. In the second part of the paper, we consider problems with various types of rank dependence between random variables, including rank dependence measured by Spearman's footrule distance between empirical rankings, comonotonic distributions, box uncertainty for individual observations, and Wasserstein distance between copulas associated with continuous distributions. We also obtain a dual reformulation of the DRSO problem. A desirable byproduct of the formulation is that it also avoids an issue associated with the one-sided moment constraints in moment-based DRSO problems.

研究の動機と目的

• 従来のDRSO手法が、依存構造が既知または疑われる場合でさえも、その依存構造を無視するという限界に対処すること。
• アンビギュイティ集合に線形相関および順位依存性（例：コーパラを用いて）を明示的にモデル化する、新しいクラスのDRSO定式化を開発すること。
• 特にデータ駆動設定においても効率的に解けるように、これらの新しいDRSO問題の解釈可能な双対再定式化を導出すること。
• 依存構造を組み込むことで、標準的なモーメントベースやWassersteinベースのDRSOと比較して、外挙動性能が向上することを実証すること。
• モーメントベースのDRSOに起因する問題、特に一方向のモーメント制約が過剰に保守的な解をもたらす可能性がある点を是正すること。

提案手法

• 名目分布からのWasserstein距離制約と2次モーメント制約を組み合わせることで、線形依存性をモデル化するLinear-CRSOを定式化する。
• 凸双対性を用いてLinear-CRSO問題の強い双対再定式化を導出し、半定値計画法による効率的解法を可能にする。
• コーパラに基づくアンビギュイティ集合を用いて順位依存性をモデル化するRank-CRSOを導入し、コーパラ間のWasserstein距離や他の順位ベースの距離（例：Spearmanのフットルール）を含む。
• 同じ双対性フレームワークをRank-CRSOに適用し、コーパラの∞-Wasserstein距離に対して解釈可能な双対定式化を導出する。
• 実データを用いて名目分布を定義し、既知の依存パターンを保持しつつ、分布シフトに対して頑健であるようにアンビギュイティ集合を構築する。
• Schur補行列や錐プログラミングにおける双対性を含む凸最適化技術を用いて、max-min頑健問題を解けるプライミング形式に変換する。

実験結果

リサーチクエスチョン

• RQ1 線形相関や順位依存性といった依存構造を、分布的に頑健な確率的最適化に効果的に組み込む方法は何か？
• RQ2 依存構造を組み込むことで、標準的なモーメントベースやWassersteinベースのアプローチと比較して、DRSOの外挙動性能にどのような影響を与えるか？
• RQ3 Wasserstein距離と依存制約の両方を組み込んだDRSO問題に対して、解釈可能な双対再定式化を導出できるか？
• RQ4 提案された定式化は、従来のモーメントベースのDRSOにおける一方向モーメント制約に起因する保守的傾向を回避できるか？
• RQ5 Wasserstein距離（例：コーパラ間の距離）のような異なる依存指標は、多変量分布における真の依存構造をどれほど正確に捉えられるか？

主な発見

• Wasserstein距離と2次モーメント制約を組み合わせた提案されたLinear-CRSO定式化は、数値実験において、モーメントベースおよびWassersteinのみのDRSOよりも優れた外挙動性能を達成する。
• Linear-CRSOの双対再定式化は解釈可能であり、半定値計画法を用いて効率的に解けるため、実装が可能である。
• コーパラ間の∞-Wasserstein距離を用いたRank-CRSOは、解釈可能な双対定式化をもたらし、異なる依存測度に柔軟に対応できることを示している。
• コーパラ間のWasserstein距離は、順位依存性を効果的に捉えており、2次元正規分布の例では、共モノトニック性の増加を正しく反映している。
• 数値結果から、提案された定式化は、従来のモーメントベースDRSOにおける一方向モーメント制約に起因する過剰な保守的傾向を回避し、より優れた意思決定品質をもたらすことが示された。
• 相関が増加する2次元正規分布の例では、唯一、コーパラ間のWasserstein距離が直感的な「依存の増加」を正しく反映しており、コーパラベースの指標の妥当性が裏付けられた。