[论文解读] Machine Learning for Food Review and Recommendation

Tan Khang Le, Siu Cheung Hui|arXiv (Cornell University)|Jan 15, 2022

Sentiment Analysis and Opinion Mining被引用 4

一句话总结

本文提出了一种基于网络的美食评论系统 NTU Food Hunter，结合 BERT 与 LSTM 进行情感分析，采用基于词性标注（POS）的形容词-名词对提取方法实现评论标签的自动生成，并利用 RankNet 模型在基于 Solr 的检索系统中进行重排序。通过结合语义特征与文本特征，该系统显著提升了检索性能，实现 100% 的 MAP@1 与 100% 的 MRR——较 BM25 提升 46%，实现了更精准的美食评论搜索。

ABSTRACT

Food reviews and recommendations have always been important for online food service websites. However, reviewing and recommending food is not simple as it is likely to be overwhelmed by disparate contexts and meanings. In this paper, we use different deep learning approaches to address the problems of sentiment analysis, automatic review tag generation, and retrieval of food reviews. We propose to develop a web-based food review system at Nanyang Technological University (NTU) named NTU Food Hunter, which incorporates different deep learning approaches that help users with food selection. First, we implement the BERT and LSTM deep learning models into the system for sentiment analysis of food reviews. Then, we develop a Part-of-Speech (POS) algorithm to automatically identify and extract adjective-noun pairs from the review content for review tag generation based on POS tagging and dependency parsing. Finally, we also train a RankNet model for the re-ranking of the retrieval results to improve the accuracy in our Solr-based food reviews search system. The experimental results show that our proposed deep learning approaches are promising for the applications of real-world problems.

研究动机与目标

• 为解决美食评论平台中的信息过载问题，实现对非结构化美食评论的智能自动化分析。
• 通过深度学习在情感分析、标签生成与检索排序中的应用，提升美食推荐的准确性。
• 开发一个真实世界中的基于网络的系统（NTU Food Hunter），整合多种自然语言处理技术，实现实际的美食评论管理。
• 通过在基于 Solr 的搜索流程中结合语义理解（通过 BERT）与学习排序模型（RankNet），提升检索精度。

提出的方法

• 对 BERT 与 LSTM 模型进行微调，用于大学食堂评论的情感分类，利用预训练嵌入并在 NTU 食堂评论数据上进行微调。
• 开发一种基于词性标注的算法，结合依存句法分析与词性标注，提取形容词-名词对，用于自动生成评论标签。
• 通过定义查询-文档相关性特征，并将样本对标注为相关（1）或不相关（0），构建特征数据集用于训练。
• 实现 RankNet 模型，基于学习到的特征值对 Solr 检索结果进行重排序，提升排序精度，超越单纯的词法匹配。
• 将检索流程与 Solr 集成，利用 BERT 嵌入与特征匹配计算相关性得分，再经 RankNet 重排序。
• 使用基于负载的查询接口将特征与嵌入传输至 Solr，实现具备语义感知能力的端到端检索与重排序。

实验结果

研究问题

• RQ1 BERT 与 LSTM 模型能否在大学食堂场景的美食评论中有效进行情感分类？
• RQ2 基于词性标注的形容词-名词对提取方法能否可靠地从非结构化美食评论中生成有意义且信息丰富的评论标签？
• RQ3 基于 RankNet 的学习排序模型能否在美食评论搜索系统中，超越传统的 tf-idf 与 BM25 方法，提升检索准确率？
• RQ4 结合语义特征（BERT）与结构化特征（形容词-名词对、类别）在多大程度上能提升检索性能？

主要发现

• 所提出的系统实现了 100% 的平均平均精度（MAP@1），显著优于 tf-idf（60.00%）与 BM25（60.00%）。
• 系统实现了 1.0000 的平均倒数排名（MRR），表明相关结果在首位被完美排序，优于 BM25（0.6795）与 tf-idf（0.7021）。
• 与 BM25 相比，基于 RankNet 的重排序在所有评估指标上提升了 46% 的检索性能；与 tf-idf 相比提升了 29%。
• 在 Solr 中集成 BERT 嵌入与语义特征匹配，显著提升了相关性评分，超越了仅依赖词法相似度的水平。
• 形容词-名词对提取方法成功生成了反映关键食物属性的有意义标签，提升了评论摘要质量与搜索可发现性。
• 端到端的处理流程，结合情感分析、标签生成与语义重排序，展现出在美食评论系统中的强大实际应用潜力。