[论文解读] Faithfully Explaining Rankings in a News Recommender System

Maartje ter Hoeve, Anne Schuth+2 more|arXiv (Cornell University)|May 14, 2018

Explainable Artificial Intelligence (XAI)参考文献 27被引用 13

一句话总结

本文提出 LISTEN，一种列表级解释器，可为新闻推荐系统生成忠实且人类可理解的解释。它训练一个神经网络 Q-LISTEN，以高效学习并复现 LISTEN 的解释空间，证明模型生成的解释在真实用户行为中与人工撰写的解释一样有效且安全。

ABSTRACT

There is an increasing demand for algorithms to explain their outcomes. So far, there is no method that explains the rankings produced by a ranking algorithm. To address this gap we propose LISTEN, a LISTwise ExplaiNer, to explain rankings produced by a ranking algorithm. To efficiently use LISTEN in production, we train a neural network to learn the underlying explanation space created by LISTEN; we call this model Q-LISTEN. We show that LISTEN produces faithful explanations and that Q-LISTEN is able to learn these explanations. Moreover, we show that LISTEN is safe to use in a real world environment: users of a news recommendation system do not behave significantly differently when they are exposed to explanations generated by LISTEN instead of manually generated explanations.

研究动机与目标

• 解决现有方法在解释新闻推荐系统中排序算法输出排名方面的缺失问题。
• 开发一种忠实的解释方法，以捕捉列表级排序背后的推理逻辑。
• 通过训练一个神经网络（Q-LISTEN）学习 LISTEN 的解释空间，实现可扩展的部署。
• 在真实用户环境中评估模型生成解释的安全性与有效性。

提出的方法

• LISTEN 是一种列表级解释器，可为排序模型的输出排名生成自然语言解释。
• 它通过分析输入特征与最终排名之间的关系，学习潜在的解释空间。
• Q-LISTEN 是一个经过训练以模仿 LISTEN 解释生成的神经网络，可在生产环境中实现快速推理。
• 解释空间通过可微分框架端到端学习，使解释与排序结果对齐。
• 通过内在和外在验证（包括用户研究）评估解释的忠实度。

实验结果

研究问题

• RQ1 模型能否为新闻推荐系统生成的排名生成忠实的解释？
• RQ2 神经网络（Q-LISTEN）能否有效学习并复现 LISTEN 的解释空间？
• RQ3 当用户接触到模型生成的解释与人工撰写的解释时，其行为是否存在显著差异？
• RQ4 该解释方法在真实系统中部署是否安全，不会引发不良行为影响？

主要发现

• LISTEN 生成的解释忠实可靠，准确反映了排名决策背后的推理逻辑。
• Q-LISTEN 有效学习了 LISTEN 的解释空间，并以高效率生成了可比的解释。
• 在真实新闻推荐系统中，用户在接触 LISTEN 生成的解释与人工撰写的解释时，行为无显著差异。
• 该方法可安全部署，因为在解释条件下未观察到用户行为的显著变化。