[论文解读] Data-driven preference learning methods for value-driven multiple criteria sorting with interacting criteria

Jiapeng Liu, Miłosz Kadziński+2 more|arXiv (Cornell University)|May 21, 2019

Multi-Criteria Decision Making被引用 6

一句话总结

本文提出了一种数据驱动的偏好学习方法，用于具有交互准则的多准则排序，采用基于分段线性值函数并增强交互分量的凸二次规划模型。该方法通过引入正则化防止过拟合，并实现大规模数据集的高效处理，确保了高预测性能和可解释性，在准确性和鲁棒性方面优于UTADIS和基于Choquet积分的模型。

ABSTRACT

The learning of predictive models for data-driven decision support has been a prevalent topic in many fields. However, construction of models that would capture interactions among input variables is a challenging task. In this paper, we present a new preference learning approach for multiple criteria sorting with potentially interacting criteria. It employs an additive piecewise-linear value function as the basic preference model, which is augmented with components for handling the interactions. To construct such a model from a given set of assignment examples concerning reference alternatives, we develop a convex quadratic programming model. Since its complexity does not depend on the number of training samples, the proposed approach is capable for dealing with data-intensive tasks. To improve the generalization of the constructed model on new instances and to overcome the problem of over-fitting, we employ the regularization techniques. We also propose a few novel methods for classifying non-reference alternatives in order to enhance the applicability of our approach to different datasets. The practical usefulness of the proposed method is demonstrated on a problem of parametric evaluation of research units, whereas its predictive performance is studied on several monotone learning datasets. The experimental results indicate that our approach compares favourably with the classical UTADIS method and the Choquet integral-based sorting model.

研究动机与目标

• 开发一种无需主动参与决策者的多准则排序数据驱动偏好学习方法，以捕捉准则之间的相互作用。
• 通过使用可加分段线性值函数确保模型可解释性，同时通过建模交互关系增强预测能力。
• 通过将正则化技术整合到偏好学习过程中，提升泛化能力并避免过拟合。
• 通过构建与训练样本数量无关的复杂度优化模型，实现在大规模数据集上的高效处理。
• 通过真实世界的研究机构参数化评估和单调学习数据集的基准测试，证明方法的实际适用性。

提出的方法

• 核心偏好模型是在偏好独立性假设下的可加分段线性值函数，通过引入建模准则间正负相互作用的分量加以扩展。
• 构建了凸二次规划模型，从参考备选方案的分配示例中学习偏好模型，确保全局最优性和可扩展性。
• 在优化目标中引入正则化项，以增强泛化能力并减少在新实例上的过拟合。
• 模型的复杂度与训练样本数量无关，从而实现对数据密集型应用的高效处理。
• 提出了一种框架，支持灵活选择组件，包括交互建模变体和非参考备选方案的排序策略。
• 该方法支持准则上的单调性约束，确保任一准则上性能的提升都会导致更优的类别分配。

实验结果

研究问题

• RQ1 一种数据驱动的偏好学习方法能否在保持可解释性的同时，有效建模多准则排序中准则之间的相互作用？
• RQ2 正则化在大规模排序任务中如何提升偏好模型的泛化性能？
• RQ3 所提出的方法在预测准确性和鲁棒性方面，与UTADIS和基于Choquet积分的经典方法相比，优越程度如何？
• RQ4 由于其与样本数量无关的复杂度，该方法是否能高效处理数据密集型排序问题？
• RQ5 将分段线性边际值函数与交互分量相结合，如何在不牺牲可解释性的情况下提升拟合能力？

主要发现

• 在多个单调学习数据集上，所提方法在准确性和鲁棒性方面均优于UTADIS和基于Choquet积分的模型，表现出一致的性能提升。
• 由于有效的正则化，模型在新实例上表现出强大的泛化能力，即使在性能尺度被划分为不同子区间时，也显著减少了过拟合。
• 优化模型的复杂度与训练样本数量无关，实验结果证实其在处理大规模数据集时具有高效的计算性能。
• 在真实世界的研究机构参数化评估中，该方法生成了可解释且直观合理的类别分配，验证了其实际适用性。
• 引入交互分量显著提升了模型的拟合能力和预测性能，尤其在准则间存在复杂依赖关系的情况下表现突出。
• 在所有测试数据集（包括ESL、MMG、ERA、LEV和CEV）中，该方法均优于基线模型，预测误差更低且稳定性更高。