[论文解读] Inferring Parameters Through Inverse Multiobjective Optimization

Chaosheng Dong, Bo Zeng|arXiv (Cornell University)|Aug 2, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 55被引用 6

一句话总结

本文提出了一种新颖的逆多目标优化框架，旨在从具有噪声的真实世界数据中推断多目标决策问题的参数，明确建模多个标准之间的权衡。通过整合统计推断、基于ADMM的算法以及聚类技术，该方法将可解释的偏好与噪声分离，实现了对效用函数和去噪最优决策的精确估计，并具备强大的统计保障。

ABSTRACT

Given a set of human's decisions that are observed, inverse optimization has been developed and utilized to infer the underlying decision making problem. The majority of existing studies assumes that the decision making problem is with a single objective function, and attributes data divergence to noises, errors or bounded rationality, which, however, could lead to a corrupted inference when decisions are tradeoffs among multiple criteria. In this paper, we take a data-driven approach and design a more sophisticated inverse optimization formulation to explicitly infer parameters of a multiobjective decision making problem from noisy observations. This framework, together with our mathematical analyses and advanced algorithm developments, demonstrates a strong capacity in estimating critical parameters, decoupling "interpretable" components from noises or errors, deriving the denoised \emph{optimal} decisions, and ensuring statistical significance. In particular, for the whole decision maker population, if suitable conditions hold, we will be able to understand the overall diversity and the distribution of their preferences over multiple criteria, which is important when a precise inference on every single decision maker is practically unnecessary or infeasible. Numerical results on a large number of experiments are reported to confirm the effectiveness of our unique inverse optimization model and the computational efficacy of the developed algorithms.

研究动机与目标

• 为解决传统逆优化方法假设单目标决策并将其数据偏差归因于噪声的局限性，当决策反映多个准则之间的权衡时，该方法会失效。
• 开发一种统计逆优化模型，明确考虑决策中的多准则偏好，特别是在个体决策者具有多样化、可解释的权衡时。
• 即使在个体层面推断不可行或不必要的情况下，也能估计决策者群体中潜在的效用函数和偏好分布。
• 通过将‘可解释’成分与噪声、误差或次优行为分离，确保统计显著性和鲁棒性。
• 设计计算高效的算法——特别是基于ADMM的求解器——以解决大规模逆多目标优化问题。

提出的方法

• 构建一个逆优化问题，通过最小化观测决策与多目标DMP最优解之间的经验损失来实现，使用二次损失函数衡量偏差。
• 提出一种基于KKT的逆问题重 formulation，以处理非凸性和互补性约束，从而可通过混合整数规划求解。
• 采用基于ADMM的算法高效求解大规模、非光滑优化问题，在弱假设下具备收敛性保证。
• 应用聚类技术根据推断的偏好向量对决策者进行分组，实现对偏好分布的群体层面推断。
• 利用Rademacher复杂度界建立估计参数的一般化性能和统计显著性。
• 为多目标规划中的目标函数和右端项参数推断，开发了单层混合整数线性规划（MILP）重 formulation。

实验结果

研究问题

• RQ1 我们能否从反映多个准则之间权衡的具有噪声的真实世界决策中，准确推断出潜在的多目标效用函数？
• RQ2 我们如何区分观测决策中可解释的偏好结构与噪声或误差？
• RQ3 在决策者群体中，估计参数的统计显著性和一般化性能如何？
• RQ4 当个体层面推断不切实际时，我们能否有效估计多准则偏好分布？
• RQ5 我们如何设计计算高效的算法来求解大规模逆多目标优化问题？

主要发现

• 所提出的逆多目标优化框架成功地将可解释的偏好成分与噪声分离，实现了比单目标逆优化更精确的参数估计。
• 基于ADMM的算法在大规模数据集上表现出强大的计算效率和收敛性，支持实际部署。
• 通过Rademacher复杂度界进行的统计分析证实了估计参数的一般化性能和鲁棒性。
• 对推断偏好向量的聚类揭示了即使在个体决策具有噪声或次优性的情况下，多准则权衡中的有意义群体模式。
• 在投资组合优化的数值实验中，该方法在不同噪声水平下均能高精度恢复真实的期望收益和协方差矩阵。
• 与基线的单目标逆优化方法相比，该模型在具有高决策权衡的场景中显著提升了参数估计的准确性。