[論文レビュー] Inferring Parameters Through Inverse Multiobjective Optimization

Chaosheng Dong, Bo Zeng|arXiv (Cornell University)|Aug 2, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 55被引用数 6

ひとこと要約

本稿では、ノイズが混在する現実世界のデータから、複数基準の意思決定問題のパラメータを推定するための新しい逆多目的最適化フレームワークを提案する。このフレームワークは、複数の基準間のトレードオフを明示的にモデル化する。統計的推論、ADMMに基づくアルゴリズム、クラスタリングを統合することで、ノイズから解釈可能な好みを分離し、有用関数とノイズ除去された最適意思決定の正確な推定を可能にし、強い統計的保証を得られる。

ABSTRACT

Given a set of human's decisions that are observed, inverse optimization has been developed and utilized to infer the underlying decision making problem. The majority of existing studies assumes that the decision making problem is with a single objective function, and attributes data divergence to noises, errors or bounded rationality, which, however, could lead to a corrupted inference when decisions are tradeoffs among multiple criteria. In this paper, we take a data-driven approach and design a more sophisticated inverse optimization formulation to explicitly infer parameters of a multiobjective decision making problem from noisy observations. This framework, together with our mathematical analyses and advanced algorithm developments, demonstrates a strong capacity in estimating critical parameters, decoupling "interpretable" components from noises or errors, deriving the denoised \emph{optimal} decisions, and ensuring statistical significance. In particular, for the whole decision maker population, if suitable conditions hold, we will be able to understand the overall diversity and the distribution of their preferences over multiple criteria, which is important when a precise inference on every single decision maker is practically unnecessary or infeasible. Numerical results on a large number of experiments are reported to confirm the effectiveness of our unique inverse optimization model and the computational efficacy of the developed algorithms.

研究の動機と目的

• 従来の逆最適化が単一目的意思決定を仮定し、データの乖離をノイズに起因するとみなすという制限を克服し、複数基準間のトレードオフを反映する意思決定では失敗することを解消すること。
• 意思決定において複数基準の好みを明示的に扱う統計的逆最適化モデルを開発し、特に個々の意思決定者が多様で解釈可能なトレードオフを持つ状況を想定すること。
• 個別レベルでの推論が不可能または不必要であっても、意思決定者集団全体における有用関数と好みの分布を推定すること。
• 観察された意思決定における「解釈可能な」成分とノイズ、誤差、または非最適行動を分離することで、統計的有意性とロバスト性を確保すること。
• 大規模な逆多目的最適化問題を解くために、特にADMMに基づくソルバーを含む計算効率の高いアルゴリズムを設計すること。

提案手法

• 観察された意思決定と多目的DMPの最適解との間の経験的損失を最小化する逆最適化問題を定式化し、偏差を測るための二次損失関数を用いる。
• 非凸性と補完制約を扱うために、KKTに基づく逆問題の再定式化を導入し、混合整数プログラミングによる解法を可能にする。
• 大規模かつ非滑らかな最適化問題を効率的に解くために、ADMMに基づくアルゴリズムを採用し、弱い仮定のもとで収束保証を有する。
• 推定された好みのベクトルに基づいて意思決定者をクラスタリングし、好みの分布の集団レベル推論を可能にする。
• 一般化性能と推定パラメータの統計的有意性を確立するために、ラデマッハ複雑度の境界を用いる。
• 多目的プログラムにおける目的関数および右辺項パラメータの推定の両方について、単一レベルの混合整数線形プログラミング（MILP）再定式化を構築する。

実験結果

リサーチクエスチョン

• RQ1 ノイズが混在する現実世界の意思決定から、複数基準間のトレードオフを反映する背後にある多目的有用関数を正確に推定できるか？
• RQ2 観察された意思決定における解釈可能な好み構造とノイズや誤差をどのように区別できるか？
• RQ3 集団レベルの意思決定者に対して、推定されたパラメータの統計的有意性と一般化性能はどの程度か？
• RQ4 個別レベルでの推論が非現実的である場合に、複数基準における好みの分布を効果的に推定できるか？
• RQ5 大規模な逆多目的最適化問題を解くために、計算効率の高いアルゴリズムをどのように設計できるか？

主な発見

• 提案された逆多目的最適化フレームワークは、解釈可能な好みの成分とノイズを効果的に分離し、単一目的の逆最適化よりもより正確なパラメータ推定を実現した。
• ADMMに基づくアルゴリズムは、大規模データセットにおいて高い計算効率と収束性を示し、実用的導入が可能であることを示した。
• ラデマッハ複雑度の境界を用いた統計的分析により、推定パラメータの一般化性能とロバスト性が確認された。
• 推定された好みのベクトルのクラスタリングにより、個々の意思決定がノイズや非最適であっても、多基準トレードオフにおける意味のある集団レベルのパターンが明らかになった。
• ポートフォリオ最適化における数値実験では、さまざまなノイズレベル下でも、真の期待リターンと共分散行列が高精度で回復された。
• 特に意思決定のトレードオフが顕著な状況において、ベースラインの単一目的逆最適化手法と比較して、パラメータ推定の精度が顕著に向上した。