[論文レビュー] Integrated Conditional Estimation-Optimization

Meng Qi, Paul Grigas+1 more|arXiv (Cornell University)|Oct 24, 2021

Machine Learning and Algorithms被引用数 10

ひとこと要約

本稿では、不確実パラメータの条件付き分布の推定と意思決定の最適化を統合的に処理する、統合的条件付き推定最適化（ICEO）フレームワークを提案する。このフレームワークは、推定の目的を下流の最適化目標に合わせることで、推定と最適化を同時に最適化する。文脈特徴量と確率的パラメータの分布との関係を仮説クラスで直接モデル化することにより、漸近的一貫性と有限標本における一般化バウンドを達成し、特にモデル不適合やデータが限られた状況下でも、従来の二段階手法を上回る性能を発揮する。

ABSTRACT

Many real-world optimization problems involve uncertain parameters with probability distributions that can be estimated using contextual feature information. In contrast to the standard approach of first estimating the distribution of uncertain parameters and then optimizing the objective based on the estimation, we propose an integrated conditional estimation-optimization (ICEO) framework that estimates the underlying conditional distribution of the random parameter while considering the structure of the optimization problem. We directly model the relationship between the conditional distribution of the random parameter and the contextual features, and then estimate the probabilistic model with an objective that aligns with the downstream optimization problem. We show that our ICEO approach is asymptotically consistent under moderate regularity conditions and further provide finite performance guarantees in the form of generalization bounds. Computationally, performing estimation with the ICEO approach is a non-convex and often non-differentiable optimization problem. We propose a general methodology for approximating the potentially non-differentiable mapping from estimated conditional distribution to the optimal decision by a differentiable function, which greatly improves the performance of gradient-based algorithms applied to the non-convex problem. We also provide a polynomial optimization solution approach in the semi-algebraic case. Numerical experiments are also conducted to show the empirical success of our approach in different situations including with limited data samples and model mismatches.

研究の動機と目的

• 推定段階で意思決定誤差を無視する二段階的「予測次いで最適化」および「推定次いで最適化」手法の限界を是正する。
• 文脈的特徴量を用いて不確実パラメータの条件付き分布をモデル化するとともに、下流の意思決定品質を直接最適化する統一フレームワークを構築する。
• ICEOアプローチの漸近的一貫性および有限標本における一般化バウンドを含む理論的保証を確立する。
• 推定プロセスにおける非微分可能最適意思決定マッピングに起因する計算的課題を克服する。
• データが限られた状況やモデル不適合下で、標準的手法に比べてICEOが顕著に優れた性能を示すことを実証する。

提案手法

• 文脈的特徴量が与えられた場合の不確実パラメータの条件付き分布をモデル化するための仮説クラスを定式化する。
• 推定誤差と意思決定損失を統合したリスク関数を定義し、推定の目的を最終的な最適化目標に合わせる。
• 期待意思決定損失を最小化するように、正則化された最適化問題を用いて条件付き分布を推定する。
• 最適意思決定マッピングの非微分性に対処するため、それを微分可能な代替関数で近似する。
• 真のオラクルに代えて微分可能な代替関数を用いた場合の近似誤差バウンドおよび一般化バウンドを提供する。
• 半代数的ケースに対して多項式最適化アプローチを提案し、構造的設定下で正確または効率的な解法を可能にする。

実験結果

リサーチクエスチョン

• RQ1 文脈的確率的最適化において、二段階的手法に比べて統合的推定最適化フレームワークが意思決定品質を向上させられるか？
• RQ2 推定の目的を下流の最適化目標に合わせることで、特にモデル不適合下でもより良い汎化性能が得られるか？
• RQ3 ICEOフレームワークに対して、漸近的一貫性や一般化バウンドといった理論的保証を確立できるか？
• RQ4 非微分可能最適意思決定マッピングを効果的に近似する方法は何か？ これにより、ICEOにおける勾配ベース最適化が可能になるか？
• RQ5 データが限られた状況やモデル不一致下で、ICEOは ETO-Entropy や予測的モデルといったベンチマーク手法をどの程度上回るか？

主な発見

• ICEOは、多アイテムニューズベンド問題および最小コストネットワークフロー問題の両方において、モデル不適合下で二段階的手法 ETO-Entropy を一貫して上回る。
• 訓練データのサンプルサイズが小さい場合、ICEOの優位性が顕著になることから、データ不足に強く、ロバストであることが示された。
• さまざまなシナリオ数の下で、ヴァニラICEOおよびICEO-Entropyの両方とも、PRES-KNN や PRES-Kernel を含むすべてのベンチマークより低いテストセット意思決定コストを達成した。
• ICEOに対して一般化バウンドが確立され、データが限られた状況下での有限標本性能が定量的に評価された。
• 正則化された最適解オラクルの微分可能な近似により、効果的な勾配ベース最適化が可能となり、より良い局所最適解への収束が促進された。
• データ量が増加するに従い、リスク、誘導される意思決定、学習された仮説の観点から、ICEOの漸近的一貫性が証明された。これにより、真の最適解に収束することが保証された。