[论文解读] Building an Interpretable Recommender via Loss-Preserving Transformation

Amit Dhurandhar, Sechan Oh+1 more|arXiv (Cornell University)|Jun 19, 2016

Data Stream Mining Techniques被引用 3

一句话总结

本文提出了一种损失保持的转换方法，可将具有样本和动作相关误分类成本的个性化推荐数据转换为标准多分类分类格式。通过保持原始成本结构，该方法使现有可解释分类器（例如决策树）能够生成高质量的基于规则的推荐，其转化率显著优于基线方法，即使在严格的可解释性约束下亦是如此。

ABSTRACT

We propose a method for building an interpretable recommender system for personalizing online content and promotions. Historical data available for the system consists of customer features, provided content (promotions), and user responses. Unlike in a standard multi-class classification setting, misclassification costs depend on both recommended actions and customers. Our method transforms such a data set to a new set which can be used with standard interpretable multi-class classification algorithms. The transformation has the desirable property that minimizing the standard misclassification penalty in this new space is equivalent to minimizing the custom cost function.

研究动机与目标

• 为解决在个性化营销中生成可解释的基于规则的推荐策略的挑战，同时保持高推荐质量。
• 克服标准多分类分类器假设误分类成本统一的局限性，特别是在成本因客户和动作而异的场景中。
• 开发一种通用转换方法，将具有自定义、样本和类别相关成本的数据映射为标准分类格式，且不失最优化。
• 确保生成的可解释规则在规则数量较少时（如领域专家所要求）仍具有鲁棒性和有效性。
• 证明在基于规则的生成中采用严格的成本建模，可显著优于启发式或基线方法。

提出的方法

• 将原始数据集（客户特征、动作、结果）三元组转换为新数据集，其中每个样本根据损失保持权重进行复制，该权重由最优动作与实际动作的转化概率之差推导得出。
• 使用转换后数据训练标准可解释多分类分类器（如决策树），确保在新空间中最小化标准0/1误分类误差，等价于最小化原始自定义成本函数。
• 该转换确保在转换空间中的最优策略与原始成本敏感空间中的最优策略完全一致，从而保持真实的损失结构。
• 该方法具有通用性，适用于任何支持加权样本的分类器，可与现有可解释学习算法无缝集成。
• 该转换构造方式确保每个（x, a）对的副本数量与推荐a相对于最优动作a*(x)的期望成本成正比。
• 该方法通过将问题转换为带调整样本权重的标准分类任务，避免了对专用成本敏感学习算法的需求。

实验结果

研究问题

• RQ1 能否设计一种通用转换方法，将成本敏感的推荐问题转换为标准多分类分类问题，同时保持原始损失结构？
• RQ2 使用该转换是否能生成可解释的基于规则的推荐系统，其转化率显著高于忽略样本和动作相关成本的基线方法？
• RQ3 当可解释规则数量受限时，该转换方法的性能与基线方法相比如何？
• RQ4 该方法能否稳健处理引入新型近似最优促销活动的情况，尤其是当该活动并非始终最优但会在特定条件下成为最优时？
• RQ5 在转化概率估计存在预测误差的情况下，该转换在多大程度上提升了基于规则推荐的稳定性和质量？

主要发现

• 所提方法在所有可解释规则数量下均显著优于基线方法，平均转化率更高，且随着规则数量减少，差距进一步扩大。
• 当规则数量固定为六时，所提方法的转化率随α平滑上升，并在α = 1时达到理论上限，表明对新型近似最优促销活动具有强鲁棒性。
• 相比之下，基线方法即使在α = 1时也未能推荐出全局最优的虚构促销活动，原因在于训练数据中存在其他局部最优动作。
• 该转换方法显著降低了与转化率理论上限的偏差，尤其在规则数量较少的约束条件下更为明显。
• 结果表明，忽略样本和类别相关误分类成本会导致次优的规则生成，即使训练数据中已包含每个客户的最优动作。
• 该方法通过确保分类器的决策边界与真实成本结构对齐，而非受数据不平衡或局部最优的扭曲，从而提升了可解释模型的可靠性。