[論文レビュー] Combating Conservativeness in Data-Driven Optimization under Uncertainty: A Solution Path Approach

Henry Lam, Huajie Qian|arXiv (Cornell University)|Sep 13, 2019

Risk and Portfolio Optimization参考文献 55被引用数 5

ひとこと要約

本論文は、完全な実行可能集合の推定ではなく、解の経路における低次元構造を活用することで、不確実性下でのデータ駆動型最適化における過剰な保守性を低減する、検証ベースのソリューションパスアプローチを提案する。パラメータ化された経路に沿って、多変量または単変量のガウス分布の上限に基づく検証器を用いて候補解を検証することで、次元依存性が最小限であり、漸近的最適性を達成するよりきつい実行可能性保証が得られ、数値実験においてベンチマークを上回る性能を示す。

ABSTRACT

In data-driven optimization, solution feasibility is often ensured through a "safe" reformulation of the uncertain constraints, such that an obtained data-driven solution is guaranteed to be feasible for the oracle formulation with high statistical confidence. Such approaches generally involve an implicit estimation of the whole feasible set that can scale rapidly with the problem dimension, in turn leading to over-conservative solutions. In this paper, we investigate a validation-based strategy to avoid set estimation by exploiting the intrinsic low dimensionality among all possible solutions output from a given reformulation. We demonstrate how our obtained solutions satisfy statistical feasibility guarantees with light dimension dependence, and how they are asymptotically optimal and thus regarded as the least conservative with respect to the considered reformulation classes. We apply this strategy to several data-driven optimization paradigms including (distributionally) robust optimization, sample average approximation and scenario optimization. Numerical experiments show encouraging performances of our strategy compared to established benchmarks.

研究の動機と目的

• 安全な再定式化によって全実行可能集合を暗黙的に推定する際に生じる、データ駆動型最適化における過剰な保守性を是正すること。
• ロバスト最適化、SAA、スナリオ最適化などの再定式化クラスによって生成される、低次元の解の多様体に注目することで、次元依存の保守性を低減すること。
• パラメータ化された解の経路に沿って最良の解を選択する検証ベース戦略を構築し、統計的実行可能性保証を確保すること。
• 問題の次元に軽く依存する有限標本および漸近的実行可能性・最適性保証を提供すること。
• SAA、DRO、FASTなどの確立されたベンチマークを、目的値および実行可能性信頼度の両面で上回ること。

提案手法

• 本手法は、ロバスト最適化やスナリオ最適化などの与えられたデータ駆動型再定式化から、保守性パラメータの関数として解を表すパラメータ化された解の経路を構築する。
• 解の経路に沿って候補解を検証し、多変量ガウス分布の上限（正規化または非正規化）を用いて、標本平均制約における統計的マージンを設定する。
• 代替の検証器として、単変量ガウス分布を用いてマージンを計算する手法を採用し、適用可能な場合にはよりきつい保証を提供する。
• 最適解は、検証データセット上で高い信頼度で標本平均制約を満たすことを保証しつつ、目的関数を最大化することで選択される。
• 本手法は全実行可能集合の推定を回避することで、次元依存の保守性を低減する。
• 本フレームワークはSAA、分布ロバスト最適化、スナリオ最適化に適用され、さまざまな次元と標本サイズにおける数値的検証が行われた。

実験結果

リサーチクエスチョン

• RQ1 全実行可能集合の推定を避けることで、検証ベース戦略がデータ駆動型最適化における保守性を低減できるか？
• RQ2 解の経路における低次元構造は、高次元問題におけるより良い実行可能性と最適性のトレードオフをどのように実現できるか？
• RQ3 次元依存性を最小限に抑えたきつい実行可能性保証を確保できる統計的検証器は何か？
• RQ4 提案された検証器は、FAST や標準的な SAA と比較して、目的値および実行可能性信頼度の面でどのように異なるか？
• RQ5 解の経路アプローチの有限標本および漸近的性能保証は何か？

主な発見

• 提案手法は、再定式化クラス内での漸近的最適性を達成する。これは、選択された再定式化フレームワーク下で、可能な限り保守性の低い解を生成することを意味する。
• 実行可能性保証は問題の次元に軽く依存する。本手法は、全実行可能集合推定に内在する高次元同時推定誤差を回避するためである。
• d=10, n=200 の数値実験では、単変量ガウス検証器が平均目的値 -3.87 を達成し、FAST（-2.54）および単純平均（-4.44）を上回り、100%の実行可能性を維持した。
• d=50, n=500 の場合、単変量ガウス検証器は平均目的値 -15.80 を達成し、FAST（-8.92）および単純平均（-18.14）を大きく上回り、98.0%の実行可能性を達成した。
• 非正規化および正規化されたガウス上限検証器は、FAST や単純平均よりもきつい実行可能性信頼度を提供した。特に、単変量ガウス検証器は適用可能な場合に最もきつい境界を提供した。
• 本手法は、特に高次元設定下で、目的値および実行可能性信頼度の両面で一貫してベンチマークを上回り、より大きな問題では目的値で5単位以上の性能向上を達成した。