[논문 리뷰] Product Classification in E-Commerce using Distributional Semantics

Vivek Gupta, Harish Karnick외 2명|arXiv (Cornell University)|2016. 06. 20.

Text and Document Classification Technologies참고 문헌 18인용 수 11

한 줄 요약

이 논문은 계층적 제품 분류 문제를 해결하기 위해 계층적 단어 벡터 조합과 경로, 노드, 깊이 기반 예측을 통합한 이중 수준 앙상블 분류기를 사용하는 새로운 분포 의미론 기반 문서 벡터 표현을 제안한다. 제안된 방법은 실제 전자상거래 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하였으며, 책 데이터에서 경로 정밀도 45.64%와 레이블 재현율 88.86%를 기록하여 tf-idf 및 기준 모델보다 뚜렷이 뛰어나다.

ABSTRACT

Product classification is the task of automatically predicting a taxonomy path for a product in a predefined taxonomy hierarchy given a textual product description or title. For efficient product classification we require a suitable representation for a document (the textual description of a product) feature vector and efficient and fast algorithms for prediction. To address the above challenges, we propose a new distributional semantics representation for document vector formation. We also develop a new two-level ensemble approach utilizing (with respect to the taxonomy tree) a path-wise, node-wise and depth-wise classifiers for error reduction in the final product classification. Our experiments show the effectiveness of the distributional representation and the ensemble approach on data sets from a leading e-commerce platform and achieve better results on various evaluation metrics compared to earlier approaches.

연구 동기 및 목표

• 전자상거래 카탈로그에서 희소하고 긴 尾(꼬리) 분포를 띠며 계층적인 제품 분류 문제를 해결하기 위해.
• 기존의 단어 풀 또는 tf-idf를 넘어서 단어 의미, 중요도, 독창성을 반영하는 더 의미론적으로 풍부한 문서 표현을 개발하기 위해.
• 경로, 노드, 깊이 기반 분류기의 새로운 이중 수준 앙상블 전략을 통해 계층적 분류 트리 예측 오차를 줄이기 위해.
• 실시간, 저지연 분류를 가능하게 하여 실제 전자상거래 시스템에 적합한 분류 기술을 제공하기 위해.
• 특히 긴 꼬리 카테고리에서 어려운, 모호하거나 잘못 레이블링된 제품 데이터에 대한 성능 향상을 위해.

제안 방법

• 문서 간 단어 중요도와 독창성을 반영하기 위해 군집 빈도 기반 가중치를 부여한 단어 임베딩을 활용한 새로운 조합 기반 문서 벡터 형성 방법을 제안한다.
• 단어 임베딩 공간과는 별개로 더 높은 차원의 문서 벡터 공간을 별도로 도입하여 문서의 다의어성 및 다주제성을 포괄한다.
• 이중 수준 앙상블 전략을 적용한다: (1) 전체 분류 트리 경로 예측을 위한 경로 기반 분류기, (2) 개별 레이블 예측을 위한 노드 기반 분류기, (3) 분류 트리의 각 레벨에 대응하는 깊이 기반 분류기이며, 누락된 노드에는 'none' 레이블을 사용한다.
• 차원 수를 줄이고 효율성을 향상시키기 위해 ANOVA F-값(상호정보량)을 활용한 특성 선택 기법을 적용한다.
• 제안된 gwBoWV(Graded Weighted Bag-of-Word Vectors) 표현을 기반으로 다수의 분류기를 학습하고, 앙상블 평균을 통해 최종 예측을 도출한다.
• 단어 벡터에 k-means 군집을 적용하여 의미적으로 유사한 단어를 그룹화하고, 군집 빈도를 활용해 문서 벡터의 가중 조합을 수행한다.

실험 결과

연구 질문

• RQ1 분포 의미론 기반 문서 벡터 표현이 전자상거래 제품 분류에서 기존의 tf-idf 및 단어 풀 모델보다 우수한 성능을 내는가?
• RQ2 군집 빈도 기반의 단어 가중치를 통합함으로써 계층적 분류에 적합한 문서 표현이 향상되는가?
• RQ3 경로 기반, 노드 기반, 깊이 기반 분류기의 앙상블이 계층적 제품 분류 트리 예측 오차를 줄이는가?
• RQ4 제안된 방법은 긴 꼬리 분포, 희소성, 모호한 레이블을 가진 실제 전자상거래 데이터에서 얼마나 효과적인가?
• RQ5 실제 전자상거래 시스템의 실시간 추론 요구 조건에 대해 이 방법은 어느 정도 확장 가능한가?

주요 결과

• 군집 빈도 기반 가중치를 적용한 제안된 gwBoWV 표현은 100개의 군집과 100차원 단어 벡터를 사용할 때 비책 데이터에서 경로 정밀도 83.18%, 레이블 재현율 98.42%를 달성하였다.
• 책 데이터에서는 앙상블 방법(comb-2)이 경로 정밀도 45.64%, 커버리지 정밀도 77.26%, 레이블 재현율 88.86%, 레이블 커버리지 24.57%를 기록하였으며, tf-idf 및 기준 모델보다 뚜렷이 뛰어난 성능을 보였다.
• 경로-1 및 노드 기반 분류기만으로는 성능이 낮았으며(예: 경로 정밀도 39.86%), 전체 앙상블의 성능이 뛰어나다는 점에서 다양한 분류기 유형의 조합이 가치가 있음을 입증하였다.
• 'none' 레이블 처리 기능을 갖춘 깊이 기반 분류기는 특히 모호하거나 희소한 책 카테고리에서 불완전하거나 얕은 분류 트리 경로에 대해 강건성을 향상시켰다.
• ANOVA F-값 기반 특성 선택으로 원래 21,706개의 특성 수를 8,000개로 줄여 성능을 유지하면서도 효율성을 향상시켰다.
• 책 데이터와 비책 데이터 양쪽에서 모든 네 가지 평가 지표(PP, CP, LR, LC)에서 일관된 향상이 관찰되어 본 방법의 강건성과 확장성을 입증하였다.