[논문 리뷰] Machine Learning for Food Review and Recommendation

Tan Khang Le, Siu Cheung Hui|arXiv (Cornell University)|2022. 01. 15.

Sentiment Analysis and Opinion Mining인용 수 4

한 줄 요약

이 논문은 BERT와 LSTM을 활용한 감성 분석, POS 기반 형용사-명사 쌍 추출 방법을 통한 자동 리뷰 태그 생성, 그리고 Solr 기반 검색 시스템에서의 재정렬을 위한 RankNet 모델을 통합한 웹 기반 음식 리뷰 시스템 NTU Food Hunter를 제안한다. 이 시스템은 의미적 특징과 텍스트적 특징을 결합함으로써 더 정확한 음식 리뷰 검색을 위해 더 나은 성능을 달성하며, 검색 성능을 크게 향상시켰다. 특히, MAP@1이 100%이며 MRR가 100%에 도달하여 BM25 대비 46% 높은 성능을 기록하였다.

ABSTRACT

Food reviews and recommendations have always been important for online food service websites. However, reviewing and recommending food is not simple as it is likely to be overwhelmed by disparate contexts and meanings. In this paper, we use different deep learning approaches to address the problems of sentiment analysis, automatic review tag generation, and retrieval of food reviews. We propose to develop a web-based food review system at Nanyang Technological University (NTU) named NTU Food Hunter, which incorporates different deep learning approaches that help users with food selection. First, we implement the BERT and LSTM deep learning models into the system for sentiment analysis of food reviews. Then, we develop a Part-of-Speech (POS) algorithm to automatically identify and extract adjective-noun pairs from the review content for review tag generation based on POS tagging and dependency parsing. Finally, we also train a RankNet model for the re-ranking of the retrieval results to improve the accuracy in our Solr-based food reviews search system. The experimental results show that our proposed deep learning approaches are promising for the applications of real-world problems.

연구 동기 및 목표

• 비구조적 음식 리뷰 분석을 위한 지능적이고 자동화된 분석 기능을 제공하여 음식 리뷰 플랫폼에서의 정보 과부하 문제를 해결하고자 한다.
• 감성 분석, 태그 생성, 검색 순위 매기기 등에 딥 러닝을 적용하여 음식 추천 정확도를 향상시키고자 한다.
• 실제 웹 기반 시스템인 NTU Food Hunter를 개발하여 다양한 NLP 기법을 통합해 실용적인 음식 리뷰 관리 시스템을 제공하고자 한다.
• BERT를 통한 의미 이해와 Solr 기반 검색 파이프라인 내에서의 러닝-투-랭크 모델(RankNet)을 결합하여 검색 정밀도를 향상시키고자 한다.

제안 방법

• NTU 기숙사 식당 리뷰 데이터를 기반으로 사전 학습된 임베딩을 활용하고 미세조정(fine-tuning)을 수행한 BERT 및 LSTM 모델을 사용하여 음식 리뷰 감성 분류를 수행한다.
• 의존성 구문 분석과 품사 태깅을 활용한 POS 기반 알고리즘을 개발하여 형용사-명사 쌍을 추출함으로써 자동 리뷰 태그 생성을 구현한다.
• 질의-문서 관련성 특징을 정의하고 관련성 있음(1) 또는 관련성 없음(0)으로 레이블링된 쌍을 구성하여 특징 데이터셋을 구축한다.
• 학습된 특징 값을 기반으로 Solr 검색 결과를 재정렬하기 위해 RankNet 모델을 구현하여 어휘 일치를 초월한 정확도 향상을 달성한다.
• BERT 임베딩과 특징 매칭을 사용하여 관련성 점수를 계산하고 RankNet 재정렬 이전에 Solr와 통합된 검색 파이프라인을 구성한다.
• 특징과 임베딩을 전송하기 위해 페이로드 기반 쿼리 인터페이스를 사용하여 의미 인식 기반 재정렬을 지원하는 엔드 투 엔드 검색을 실현한다.

실험 결과

연구 질문

• RQ1 BERT와 LSTM 모델은 대학 기숙사 환경의 음식 리뷰에서 감성 분류에 효과적으로 작용할 수 있는가?
• RQ2 POS 기반 형용사-명사 쌍 추출 방법은 비구조적 음식 리뷰에서 의미 있고 정보적인 리뷰 태그를 신뢰성 있게 생성할 수 있는가?
• RQ3 RankNet 기반 러닝-투-랭크 모델은 전통적인 방법인 tf-idf 및 BM25를 초월하여 음식 리뷰 검색 시스템의 검색 정확도를 향상시킬 수 있는가?
• RQ4 의미적 특징(BERT)과 구조적 특징(형용사-명사 쌍, 카테고리)을 결합할 경우 검색 성능 향상에 어느 정도 기여하는가?

주요 결과

• 제안된 시스템은 MAP@1이 100%를 기록하여 tf-idf(60.00%) 및 BM25(60.00%)를 크게 앞서며 뚜렷한 성능 향상을 보였다.
• Mean Reciprocal Rank(MRR)가 1.0000으로 나타나 관련 결과가 최상위 순위에 정확히 배치됨을 의미하며, BM25(0.6795) 및 tf-idf(0.7021)를 모두 초월하였다.
• RankNet 기반 재정렬은 모든 평가 지표에서 BM25 대비 46% 향상된 성능을 기록하였고, tf-idf 대비 29% 향상된 성능을 기록하였다.
• Solr 내에서 BERT 임베딩과 의미적 특징 매칭을 통합함으로써 어휘 유사성만을 고려하는 것보다 관련성 점수 향상이著격하게 향상되었다.
• 형용사-명사 쌍 추출 방법은 음식의 핵심 특성을 반영하는 의미 있는 태그를 성공적으로 생성하여 리뷰 요약 및 검색 가시성을 향상시켰다.
• 감성 분석, 태그 생성, 의미 기반 재정렬을 통합한 엔드 투 엔드 파이프라인은 음식 리뷰 시스템에 강력한 실용적 적용 가능성을 입증하였다.