[論文レビュー] Conic Reformulations for Kullback-Leibler Divergence Constrained Distributionally Robust Optimization and Applications

Burak Kocuk|arXiv (Cornell University)|Jul 12, 2020

Risk and Portfolio Optimization参考文献 28被引用数 4

ひとこと要約

本稿では、Kullback-Leibler（KL）ダイバージェンスによって制約される経験分布に対する分布ロバスト最適化（DRO）問題を、KLダイバージェンスの指数コーン表現を活用して円錐型に再定式化する手法を提案する。得られるロバストな同等問題は、商業用円錐ソルバーで解ける二重指数コーン計画問題となり、ニューズベンド・プロブレムおよびアンキャパシテートド・ファシリティロケーション問題において、確率的プログラミングに比べてより優れた最悪ケース性能と分散性能を示すが、平均コストはわずかに悪化する。

ABSTRACT

In this paper, we consider a distributionally robust optimization (DRO) model in which the ambiguity set is defined as the set of distributions whose Kullback-Leibler (KL) divergence to an empirical distribution is bounded. Utilizing the fact that KL divergence is an exponential cone representable function, we obtain the robust counterpart of the KL divergence constrained DRO problem as a dual exponential cone constrained program under mild assumptions on the underlying optimization problem. The resulting conic reformulation of the original optimization problem can be directly solved by a commercial conic programming solver. We specialize our generic formulation to two classical optimization problems, namely, the Newsvendor Problem and the Uncapacitated Facility Location Problem. Our computational study in an out-of-sample analysis shows that the solutions obtained via the DRO approach yield significantly better performance in terms of the dispersion of the cost realizations while the central tendency deteriorates only slightly compared to the solutions obtained by stochastic programming.

研究の動機と目的

• 確率的プログラミングが強い分布仮定を必要とすること、およびロバスト最適化が過度に保守的な解に至ることという限界を解消すること。
• KLダイバージェンスに基づくあいまいさ集合を用いた分布ロバスト最適化（DRO）問題の取り扱いやすい再定式化を構築すること。
• KLダイバージェンスの指数コーン表現を活用し、円錐プログラミングソルバーによる効率的解法を可能とすること。
• 提案されたDROアプローチの性能を、特にコスト分散および最悪ケース結果の観点から、古典的最適化問題に対して評価すること。
• DROアプローチがコスト実現値において著しく優れたロバストネスを達成する一方で、中央傾向（平均コスト）への影響は最小限に抑えられることを示すこと。

提案手法

• KLダイバージェンスが指数コーン制約として表現可能であることに着目し、円錐プログラミングへの再定式化を可能にする。
• やや弱い仮定の下で、KL制約付きDRO問題のロバスト同等問題として二重指数コーン制約付き計画問題を導出する。
• 円錐双対性を適用して、元のDRO問題を内点法に適した形に変換する。
• 一般的な再定式化を、ニューズベンド問題およびアンキャパシテートド・ファシリティロケーション（UFL）問題に特化させ、問題固有の円錐型定式化を構築する。
• モンテカルロサンプリングを用いたアウトオブサンプル分析を実施し、異なる需要分布（一様分布、二項分布、ポアソン分布）における性能を評価する。
• 商業用円錐ソルバー（例：MOSEK）を用いて、得られた指数コーン計画問題を直接解く。

実験結果

リサーチクエスチョン

• RQ1 KLダイバージェンス制約付きDRO問題は、指数コーン表現を用いて取り扱いやすい円錐計画問題に再定式化可能か？
• RQ2 DRO解の性能は、コスト分散および最悪ケース結果の観点から確率的プログラミングに比べてどうなるか？
• RQ3 KLダイバージェンスに基づくあいまいさ集合を用いる際、中央傾向（平均コスト）とロバストネス（標準偏差、最悪10%コスト）のトレードオフはいかほどか？
• RQ4 分布的あいまいさ下で、ファシリティロケーションおよびニューズベンド問題において、DROアプローチはどの程度ロバストネスを向上させるか？
• RQ5 提案された円錐型再定式化は、カスタムアルゴリズム開発を要せず、商業ソルバーによって効率的に解けるか？

主な発見

• 一様分布（0,10）に従う需要を想定したUFL問題において、θ=0.05のDROアプローチは平均コストを23.11から24.52に引き上げるが、標準偏差は3.47から0.92に、最悪10%コストは29.19から26.10に低下する。
• 二項分布（10,0.5）に従う需要では、DROアプローチにより標準偏差が1.88から0.52に、最悪10%コストが28.15から25.86に低下するが、平均コストはわずかに上昇する。
• ポアソン分布（5）に従う需要では、標準偏差が2.67から0.74に、最悪10%コストが29.89から26.34に低下するが、平均コストの上昇は最小限に抑えられる。
• DRO下では中央値コストは安定的またはわずかに上昇するが、四分位範囲および最大値は顕著に縮小しており、ロバストネスの向上が示唆される。
• あいまいさレベルが上昇するにつれ、確率的プログラミングでは1つの集中型施設が最適となるが、DROでは2つのクラスタリングされた施設が最適となることが明らかになり、需要の不確実性に対するロバストネスの向上が裏付けられる。
• 円錐型再定式化により、商業ソルバーを直接用いて解けることが確認され、実世界のDRO問題への実用的妥当性が裏付けられた。