[论文解读] Learning to Match via Inverse Optimal Transport

Ruilin Li, Xiaojing Ye+2 more|arXiv (Cornell University)|Feb 10, 2018

Stochastic Gradient Optimization Techniques被引用 10

一句话总结

本文提出一种基于反向最优传输的、数据驱动的框架，旨在从噪声大且不完整的经验匹配数据中学习自适应的、非线性的匹配代价函数。通过将群体建模为概率分布，并利用正则化Wasserstein距离实现边缘松弛，该方法通过交替优化高效求解非凸优化问题，从而在在线交友、劳动力市场和大学录取等场景中实现对匹配结果的鲁棒预测与解释。

ABSTRACT

We propose a unified data-driven framework based on inverse optimal transport that can learn adaptive, nonlinear interaction cost function from noisy and incomplete empirical matching matrix and predict new matching in various matching contexts. We emphasize that the discrete optimal transport plays the role of a variational principle which gives rise to an optimization-based framework for modeling the observed empirical matching data. Our formulation leads to a non-convex optimization problem which can be solved efficiently by an alternating optimization method. A key novel aspect of our formulation is the incorporation of marginal relaxation via regularized Wasserstein distance, significantly improving the robustness of the method in the face of noisy or missing empirical matching data. Our model falls into the category of prescriptive models, which not only predict potential future matching, but is also able to explain what leads to empirical matching and quantifies the impact of changes in matching factors. The proposed approach has wide applicability including predicting matching in online dating, labor market, college application and crowdsourcing. We back up our claims with numerical experiments on both synthetic data and real world data sets.

研究动机与目标

• 解决在现实应用中，从噪声大、不完整或有偏倚的经验匹配数据中学习可靠匹配代价的挑战。
• 构建一个统一的框架，将匹配建模为具有未知代价函数的最优传输问题，从而实现对观测到的匹配结果的预测与解释。
• 将潜在特征与供给约束整合进基于优化的原理性模型中，以反映现实市场动态。
• 通过正则化Wasserstein距离实现的边缘松弛，提升对数据缺陷的鲁棒性。
• 通过学习可解释的代价函数，量化匹配因素变化对结果的影响，实现预测性分析。

提出的方法

• 将匹配问题建模为反向最优传输任务，假设观测到的匹配结果是由最小化潜在代价函数所导致的。
• 将各方个体建模为概率分布，代价函数由核化特征交互矩阵 $A$ 导出。
• 引入两个辅助代价矩阵 $C_u$ 和 $C_v$，用于表示经验分布 $\hat{\mu}$ 和 $\hat{\nu}$ 的边缘松弛，从而增强模型鲁棒性。
• 利用正则化Wasserstein距离学习特征增强的边缘分布，有效处理不完整或噪声数据。
• 通过交替优化算法求解所得的非凸优化问题，迭代更新：(1) 特征交互矩阵 $A$ 与对偶变量 $\boldsymbol{\mu}, \boldsymbol{\nu}$，(2) 边缘松弛矩阵 $C_u, C_v$，以及 (3) 对偶变量 $\boldsymbol{z}, \boldsymbol{w}$。
• 对 $C_u$ 和 $C_v$ 的更新采用投影梯度法，利用Sinkhorn-Knopp算法高效计算对偶变量。

实验结果

研究问题

• RQ1 我们如何从噪声大且不完整的经验数据中学习非线性、自适应的匹配代价函数？
• RQ2 正则化Wasserstein距离在存在缺失或有偏数据的匹配问题中，能在多大程度上提升鲁棒性？
• RQ3 反向最优传输能否用于建模现实世界的匹配系统，同时保持可解释性与预测能力？
• RQ4 通过 $C_u$ 和 $C_v$ 实现的边缘松弛，如何增强模型处理供给约束与数据缺陷的能力？
• RQ5 所学习的代价函数能否解释个体特征变化对最终匹配结果的影响？

主要发现

• 所提出的框架成功从合成数据与真实世界数据中学习到非线性、自适应的代价函数，在不完整或噪声数据上表现出强大的泛化能力。
• 通过正则化Wasserstein距离实现的边缘松弛显著提升了鲁棒性，尤其在经验匹配数据稀疏或有偏时效果更明显。
• 交替优化算法收敛迅速，在在线交友、大学录取和劳动力市场等多样化领域中均实现了高精度的新匹配预测。
• 该模型通过量化特征变化对匹配结果的影响，实现了预测性分析，为观测到的匹配结果提供了可解释的驱动因素洞察。
• 数值实验表明，该方法在数据不确定性下的匹配预测准确率与稳定性方面均优于基线方法。
• 该框架具有可扩展性与实用性，建议采用两阶段学习策略：首先学习 $C_u$ 与 $C_v$，然后使用RIOT学习主代价矩阵 $C(A)$，从而降低计算成本。