[論文レビュー] Managing Solution Stability in Decision-Focused Learning with Cost Regularization

Victor Spitzer, François Sanson|arXiv (Cornell University)|Jan 29, 2026

Advanced Multi-Objective Optimization Algorithms被引用数 0

ひとこと要約

この論文は、摂動ベースの意思決定指向学習（DFL）が解の不安定性に悩まされる可能性を分析し、安定性を維持し学習の信頼性を向上させるためのコストベクトル正則化を提案する。

ABSTRACT

Decision-focused learning integrates predictive modeling and combinatorial optimization by training models to directly improve decision quality rather than prediction accuracy alone. Differentiating through combinatorial optimization problems represents a central challenge, and recent approaches tackle this difficulty by introducing perturbation-based approximations. In this work, we focus on estimating the objective function coefficients of a combinatorial optimization problem. Our study demonstrates that fluctuations in perturbation intensity occurring during the learning phase can lead to ineffective training, by establishing a theoretical link to the notion of solution stability in combinatorial optimization. We propose addressing this issue by introducing a regularization of the estimated cost vectors which improves the robustness and reliability of the learning process, as demonstrated by extensive numerical experiments.

研究の動機と目的

• 予測モデリングと組合せ最適化の統合を、予測精度だけでなく意思決定の品質を向上させるために促進する。
• 摂動強度が組合せ最適化における解の安定性の観点から学習にどのように影響するかを特徴づける。
• 訓練中のロバスト性を高めるために、コスト推定の安定半径を制御するコスト正則化を提案する。
• 理論的特性と数値実験を通じて、コストベクトルを正則化すると学習信頼性がベンチマーク全体で改善されることを示す。

提案手法

• 予測器を介して推定されるMILPのコストを用い、意思決定は最適化写像fによって生成される学習問題をモデル化する。
• 最適化写像を微分するための摂動ベースの微分フレームワークを用い、勾配をコスト推定に関連づける。
• 集合値最適化の上半連続性と安定性半径を活用して、摂動が選択された最適解にどのように影響するかを分析する。
• コストベクトルを正規化して安定半径を上限化するコスト正則化手法を提案し、摂動スケールがコストスケールと同程度になるようにする。
• 正則化が摂動スケールをコスト推定に整合させ、訓練中の有益な下降方向を保つようにする。

Figure 1 : Toy Problem Illustration

実験結果

リサーチクエスチョン

• RQ1 摂動ベースの意思決定指向学習法の有効性は解の安定性によりどう影響を受けるか。
• RQ2 コスト正則化を用いてコスト推定の安定半径を制御し、学習信頼性を高めることができるか。
• RQ3 解の安定性が適切に管理されない場合、既存のDFL技術は模倣学習へと退化するのか、正則化により退化を防げるのか。
• RQ4 摂動とMILPの最適解の関係を支える理論的特性（例：上半連続性、スケール不変性）は何か。

主な発見

• 推定コストに対する摂動スケールは、学習信号が有益か誤解を招くかを決定づける。
• 解の安定性を制御しないと、経験ベースのDFL手法は模倣学習へと退化するか、有用な勾配を提供できなくなる。
• Fenchel–Young損失は、あるスケール条件下で模倣損失のように振る舞い、学習過程を崩壊させる可能性がある。
• 暗黙的な摂動手法は、意味のある勾配を提供するためにコスト推定と同程度のスケールでなければならない。
• 正則化による正規化は安定半径を抑制し、学習に不可欠な近傍探索を保持する。
• 正則化はベンチマーク全体でのロバスト性と信頼性を数値実験で向上させる。

(a) DPO model at seed 0