[论文解读] Unifying Topic, Sentiment & Preference in an HDP-Based Rating Regression Model for Online Reviews

Zheng Chen, Yong Zhang+2 more|arXiv (Cornell University)|Nov 20, 2016

Recommender Systems and Techniques被引用 3

一句话总结

该论文提出TSPRA，一种基于HDP的评分回归模型，将主题、情感和用户偏好作为独立因素统一建模，以预测评论评分并识别关键产品特性。通过将用户偏好与情感解耦，并利用HDP实现自动主题发现，TSPRA在评分预测方面优于FLAME模型，并揭示了关键方面——用户高度关注但评分较低的特性——从而实现有针对性的产品改进。

ABSTRACT

This paper proposes a new HDP based online review rating regression model named Topic-Sentiment-Preference Regression Analysis (TSPRA). TSPRA combines topics (i.e. product aspects), word sentiment and user preference as regression factors, and is able to perform topic clustering, review rating prediction, sentiment analysis and what we invent as "critical aspect" analysis altogether in one framework. TSPRA extends sentiment approaches by integrating the key concept "user preference" in collaborative filtering (CF) models into consideration, while it is distinct from current CF models by decoupling "user preference" and "sentiment" as independent factors. Our experiments conducted on 22 Amazon datasets show overwhelming better performance in rating predication against a state-of-art model FLAME (2015) in terms of error, Pearson's Correlation and number of inverted pairs. For sentiment analysis, we compare the derived word sentiments against a public sentiment resource SenticNet3 and our sentiment estimations clearly make more sense in the context of online reviews. Last, as a result of the de-correlation of "user preference" from "sentiment", TSPRA is able to evaluate a new concept "critical aspects", defined as the product aspects seriously concerned by users but negatively commented in reviews. Improvement to such "critical aspects" could be most effective to enhance user experience.

研究动机与目标

• 开发一个统一模型，整合主题、情感和用户偏好，用于在线评论评分预测。
• 将用户偏好与情感解耦，将其视为独立因素，而非在协同过滤模型中混合作用。
• 利用层次狄利克雷过程（HDP）自动推断主题数量，避免手动指定主题数量。
• 识别“关键方面”——用户高度重视但负面评价的产品特性——从而指导有效的产品改进。
• 在评分预测、情感分析和关键方面检测方面，对模型性能与最先进方法进行评估。

提出的方法

• TSPRA采用层次狄利克雷过程（HDP）框架，从数据中自动推断产品特性的数量（主题），而无需预先指定。
• 该模型将主题、词语情感和用户偏好视为独立的回归因子，共同影响最终的评论评分。
• 用户偏好被定义为用户对某一产品特性的关注程度，与情感分离，并作为独立的潜在变量进行建模。
• 词语情感通过概率框架估算，情感极性计算为每主题下正向与负向词语权重的比率。
• 该模型使用评分回归函数，结合各主题偏好、情感得分和中性评分偏置，以预测最终的评论评分。
• 关键方面被识别为具有高偏好（≥0.3）且情感为负面或较低正向的特性，表明用户关注但感到不满。

实验结果

研究问题

• RQ1 是否能够通过将主题、情感和用户偏好作为独立因素的统一模型，相比现有模型提升评分预测的准确性？
• RQ2 将用户偏好与情感解耦，是否能实现更真实且可解释的在线评论用户行为建模？
• RQ3 HDP框架是否能有效推断产品特性的数量而无需人工调参，尤其在多样化数据集上？
• RQ4 该模型是否能识别出“关键方面”——即用户关心但评分较低的特性——从而实现有针对性的产品改进？
• RQ5 在所提模型中，用户偏好与情感之间的相关性如何？是否支持二者独立的假设？

主要发现

• TSPRA在22个Amazon数据集上的评分预测中显著优于最先进模型FLAME，表现出更低的误差、更高的皮尔逊相关系数以及更少的倒置对。
• 模型估算的词语情感表现出更强的上下文一致性，并在评论语境中比SenticNet3（公开情感资源）更具合理性。
• TSPRA中用户偏好与情感之间的皮尔逊相关系数较弱（0.349），证实了这两个因素成功解耦。
• TSPRA成功识别出关键方面，如手机中的“电池”和“电话通话服务”，服装中的“牛仔裤”，以及办公用品中的“手机”——这些是用户高度关注但负面评价的特性。
• 该模型在多样化数据集上表现稳健，最优默认参数为μ = 3.5和σ² = 0.08，反映了用户在1–5评分尺度上的打分习惯。
• HDP框架实现了无需预先指定主题数量的自动主题发现，减少了人工调参，提升了在异构数据集上的泛化能力。