[论文解读] Learning Post-Hoc Causal Explanations for Recommendation

Shuyuan Xu, Yunqi Li+4 more|arXiv (Cornell University)|Jun 30, 2020

Recommender Systems and Techniques参考文献 35被引用 10

一句话总结

本文提出了一种用于黑箱序列推荐系统的后验因果解释框架，通过反事实扰动和因果规则挖掘生成个性化、项目级别的解释。该方法在不损害推荐准确率的前提下，实现了高保真度、用户特定的解释，其个性化和有效性优于全局关联规则。

ABSTRACT

State-of-the-art recommender systems have the ability to generate high-quality recommendations, but usually cannot provide intuitive explanations to humans due to the usage of black-box prediction models. The lack of transparency has highlighted the critical importance of improving the explainability of recommender systems. In this paper, we propose to extract causal rules from the user interaction history as post-hoc explanations for the black-box sequential recommendation mechanisms, whilst maintain the predictive accuracy of the recommendation model. Our approach firstly achieves counterfactual examples with the aid of a perturbation model, and then extracts personalized causal relationships for the recommendation model through a causal rule mining algorithm. Experiments are conducted on several state-of-the-art sequential recommendation models and real-world datasets to verify the performance of our model on generating causal explanations. Meanwhile, We evaluate the discovered causal explanations in terms of quality and fidelity, which show that compared with conventional association rules, causal rules can provide personalized and more effective explanations for the behavior of black-box recommendation models.

研究动机与目标

• 为解决最先进黑箱序列推荐系统缺乏透明度的问题，以增强用户信任和系统可解释性。
• 生成反映过去用户交互与未来推荐之间因果关系的个性化、项目级别解释。
• 开发一种后验解释框架，以保持底层推荐模型的预测性能。
• 克服全局关联规则的局限性，后者因依赖所有用户中的共现模式而产生非个性化解释。
• 通过生成模拟‘如果……会怎样’情景的扰动输入-输出对，实现反事实推理。

提出的方法

• 变分扰动模型通过修改用户交互序列，生成反事实输入-输出对，模拟过去行为的变化。
• 该扰动模型使用可微分、随机的机制，生成多样化但合理的用户历史序列变体。
• 对扰动对应用因果规则挖掘，识别哪些过去项目（原因）导致推荐结果（结果）的变化，使用基于预测变化的评分函数。
• 该方法利用反事实逻辑：若改变历史中特定项目会改变推荐结果，则该物品被视为因果因素。
• 通过测量因果规则与黑箱推荐模型实际行为之间的一致性，评估模型保真度和解释质量。
• 该框架与模型无关，可无缝集成到任何序列推荐模型中，无需修改其架构。

实验结果

研究问题

• RQ1 能否从用户交互历史中有效提取后验因果解释，以解释黑箱序列推荐？
• RQ2 与全局关联规则挖掘相比，所提出的因果解释框架在个性化和保真度方面表现如何？
• RQ3 扰动样本数量对提取的因果规则稳定性与准确性有何影响？
• RQ4 当两位用户获得相同推荐但交互历史不同时，该方法能否生成个性化解释？
• RQ5 因果解释框架在多大程度上保持了底层推荐模型的预测准确性？

主要发现

• 当仅使用一个扰动样本时，该方法实现100%的模型保真度和100%的验证因果规则比例，但由于方差过高，统计上不可靠。
• 当扰动数量增至500时，该方法有超过95%的置信度，表明估计概率误差小于0.1，确保了统计可靠性。
• 在足够多的扰动样本（m ≥ 500）下，模型保真度和验证因果规则比例趋于稳定并持续上升，表明方法具有鲁棒性和收敛性。
• 在MovieLens100k的数据案例研究中，尽管两位用户获得相同推荐时，关联规则给出相同的解释（如“音乐之声”），但因果模型会基于各自的个人历史生成截然不同的个性化解释。
• 因果解释框架成功识别出用户特定的推荐原因，相比全局关联规则展现出更优的个性化能力。
• 该方法保持了原始推荐模型的高预测准确性，因其作为独立的后验解释模块运行，不影响原模型。