[論文レビュー] Machine Learning for Food Review and Recommendation

Tan Khang Le, Siu Cheung Hui|arXiv (Cornell University)|Jan 15, 2022

Sentiment Analysis and Opinion Mining被引用数 4

ひとこと要約

本稿では、BERTとLSTMを用いたセンチメント分析、品詞（POS）ベースの形容詞名詞ペア抽出法による自動レヴュー タグ生成、およびSolrベースの検索システムにおけるリランク用RankNetモデルを統合したウェブベースの食品レビューシステム、NTU Food Hunterの提案を行う。本システムは、意味的特徴と文脈的特徴を組み合わせることで、より正確な食品レビューサーチを実現し、検索パフォーマンスが著しく向上した。MAP@1は100%、MRRは100%を達成し、BM25に比べて46%優れている。

ABSTRACT

Food reviews and recommendations have always been important for online food service websites. However, reviewing and recommending food is not simple as it is likely to be overwhelmed by disparate contexts and meanings. In this paper, we use different deep learning approaches to address the problems of sentiment analysis, automatic review tag generation, and retrieval of food reviews. We propose to develop a web-based food review system at Nanyang Technological University (NTU) named NTU Food Hunter, which incorporates different deep learning approaches that help users with food selection. First, we implement the BERT and LSTM deep learning models into the system for sentiment analysis of food reviews. Then, we develop a Part-of-Speech (POS) algorithm to automatically identify and extract adjective-noun pairs from the review content for review tag generation based on POS tagging and dependency parsing. Finally, we also train a RankNet model for the re-ranking of the retrieval results to improve the accuracy in our Solr-based food reviews search system. The experimental results show that our proposed deep learning approaches are promising for the applications of real-world problems.

研究の動機と目的

• 非構造化食品レビューデータのインテelligェントかつ自動的な分析を可能にすることで、食品レビュープラットフォームにおける情報過多の問題に対処すること。
• 深層学習をセンチメント分析、タグ生成、リランキング順序付けに応用することで、食品推薦の精度を向上させること。
• 実世界のウェブベースシステム（NTU Food Hunter）を構築し、複数の自然言語処理技術を統合して実用的な食品レビューマネジメントを実現すること。
• BERTによる意味理解と、Solrベースの検索パイプラインにおける学習に基づくリランクモデル（RankNet）を組み合わせることで、検索精度を向上させること。

提案手法

• NTUのカフェテリアレビューデータを用いて事前学習済み埋め込みを微調整し、食品レビューデータのセンチメント分類に適応したBERTおよびLSTMモデルの微調整。
• 従属構文解析と品詞タギングを用いたPOSベースのアルゴリズムを開発し、非構造化食品レビューテキストから形容詞名詞ペアを抽出して自動タグ生成を実現。
• クエリ-ドキュメントの関連性特徴を定義し、関連する（1）または関連しない（0）とラベル付けすることで、学習用の特徴データセットを構築。
• 学習済み特徴値に基づいてSolrの検索結果を再順序付けするRankNetモデルを実装し、語彙的マッチィングを超えた順序付け精度を向上。
• Solrとの統合により、BERT埋め込みと特徴マッチングを用いて関連性スコアを計算し、RankNetによる再順序付けを実施する検索パイプラインを構築。
• 特徴量と埋め込みを送信可能なペイロードベースのクエリインターフェースを用い、意味的認識を備えたエンドツーエンドの検索を実現。

実験結果

リサーチクエスチョン

• RQ1 BERTおよびLSTMモデルは、大学のカフェテリア環境における食品レビューテキストのセンチメント分類を効果的に実行できるか？
• RQ2 POSベースの形容詞名詞ペア抽出法は、非構造化食品レビューテキストから意味的で有用なレビュータグを信頼性高く生成できるか？
• RQ3 RankNetに基づく学習に基づくリランクモデルは、tf-idf や BM25 といった従来手法に比べ、食品レビューサーチシステムにおける検索精度を向上させられるか？
• RQ4 意味的特徴（BERT）と構造的特徴（形容詞名詞ペア、カテゴリ）を組み合わせることで、検索パフォーマンスはどの程度向上するか？

主な発見

• 提案されたシステムは、平均平均精度（MAP@1）が100%に達し、tf-idf（60.00%）およびBM25（60.00%）を著しく上回った。
• 平均逆順位（MRR）は1.0000を記録し、関連する結果が常にトップ順位に配置されていることを示し、BM25（0.6795）およびtf-idf（0.7021）を上回った。
• RankNetに基づく再順序付けにより、すべての評価指標においてBM25に比べ46%、tf-idfに比べ29%のパフォーマンス向上が達成された。
• SolrにおけるBERT埋め込みと意味的特徴マッチングの統合により、語彙的類似度のみに依存するものよりも、関連性スコアの精度が顕著に向上した。
• 形容詞名詞ペア抽出法により、食品の主な属性を反映する意味のあるタグが効果的に生成され、レビューサマリゼーションと検索の可 Discoverability（発見可能性）が向上した。
• センチメント分析、タグ生成、意味的再順序付けを統合したエンドツーエンドのパイプラインは、食品レビューシステムにおける実用的応用性を強く示した。