[논문 리뷰] Don't Classify, Translate: Multi-Level E-Commerce Product Categorization Via Machine Translation

Maggie Yundi Li, Stanley Kok외 1명|arXiv (Cornell University)|2018. 12. 14.

Text and Document Classification Technologies참고 문헌 32인용 수 10

한 줄 요약

이 논문은 다수의 수준을 가진 전자상거래 제품 분류를 위한 기계 번역(MT) 기반의 새로운 접근법을 제안한다. 분류 문제를 제품 설명을 루트에서 리프까지의 분류계층 경로로 번역하는 문제로 재정의한다. 이 방법은 최신 분류 모델들을 능가하며, 새로운 의미 있는 분류 경로를 생성하여 분류계층을 더 인간의 개념적 이해에 부합하는 방향으로 유도된 방향성 비순환 그래프(DAG)로 전환시킨다.

ABSTRACT

E-commerce platforms categorize their products into a multi-level taxonomy tree with thousands of leaf categories. Conventional methods for product categorization are typically based on machine learning classification algorithms. These algorithms take product information as input (e.g., titles and descriptions) to classify a product into a leaf category. In this paper, we propose a new paradigm based on machine translation. In our approach, we translate a product's natural language description into a sequence of tokens representing a root-to-leaf path in a product taxonomy. In our experiments on two large real-world datasets, we show that our approach achieves better predictive accuracy than a state-of-the-art classification system for product categorization. In addition, we demonstrate that our machine translation models can propose meaningful new paths between previously unconnected nodes in a taxonomy tree, thereby transforming the taxonomy into a directed acyclic graph (DAG). We discuss how the resultant taxonomy DAG promotes user-friendly navigation, and how it is more adaptable to new products.

연구 동기 및 목표

• 대규모 전자상거래 플랫폼에서 전통적인 분류 기반 제품 분류의 한계를 해결하기 위해.
• 최신 신경 기계 번역(NMT) 모델을 활용하여 제품 분류의 예측 정확도와 내성 강도를 향상시키기 위해.
• 기존의 나무 구조를 초월해 새로운 의미 있는 루트에서 리프까지의 분류 경로를 생성할 수 있도록 하기 위해.
• 분류계층을 방향성 비순환 그래프(DAG)로 전환시켜 사용자 탐색성과 유연성을 향상시키기 위해.
• 글로벌 전자상거래 플랫폼에서 기존의 기계 번역 인fra를 활용하여 기술 부채와 유지보수 비용을 줄이기 위해.

제안 방법

• 제품의 텍스트 기반 설명(예: 제품명 및 설명)을 분류계층 내 루트에서 리프까지의 경로를 나타내는 분류 토큰의 시퀀스로 매핑한다.
• 특히 Transformer 인코더-디코더 아키텍처를 가진 시퀀스-투-시퀀스(Seq2Seq) 구조를 활용한 신경 기계 번역(NMT) 모델을 사용하여 제품 텍스트에서 분류 시퀀스로의 매핑을 학습한다.
• 실제 전자상거래 데이터셋을 기반으로 엔드 투 엔드로 훈련되어 유효하고 일관된 분류 경로를 생성하도록 학습된다.
• 기존 경로를 초월해 기존 분류계층 트리에 존재하지 않는 새로운 루트에서 리프까지의 경로 생성이 가능하도록 설계되어 있다.
• 현대 NMT의 강력한 특성 덕분에 제품 설명의 언어적 다양성과 노이즈를 효과적으로 처리할 수 있다.
• 생성된 경로는 참값과의 비교를 통해 의미적 일관성과 구조적 신규성 분석을 통해 검증된다.

실험 결과

연구 질문

• RQ1 기계 번역 프레임워크가 다수 수준의 전자상거래 제품 분류에서 전통적인 분류 모델보다 뛰어난 성능을 보일 수 있는가?
• RQ2 NMT 모델이 원래 분류계층 트리에 존재하지 않는 새로운 의미 있는 루트에서 리프까지의 분류 경로를 어느 정도 생성할 수 있는가?
• RQ3 제안된 MT 기반 방법은 분류 모델 대비 제품 설명의 언어적 다양성과 노이즈를 어떻게 다루는가?
• RQ4 새로운 경로 생성이 분류계층의 구조와 사용성에 어떤 영향을 미치는가?
• RQ5 기존 분류 시스템에 비해 낮은 데이터 환경에서 NMT 기반 접근법의 내성 강도는 어느 정도인가?

주요 결과

• 제안된 Seq2Seq+Transformer 앙상블 모델은 80-10-10 및 60-10-30 분할을 포함한 모든 데이터 분할 설정에서 최신 기술인 DBN+KNN 분류 모델을 능가한다.
• 훈련 데이터의 20%만으로도 NMT 기반 모델이 높은 F-스코어를 유지하여 데이터 부족 상황에서도 뛰어난 내성 강도를 보인다.
• 모델은 의미적으로 유의미한 새로운 경로를 생성하며, 예를 들어 '프린터'를 '전자기기'가 아닌 '오피스 용품' 아래에 배치함으로써 더 직관적인 분류를 반영한다.
• 시스템은 잘못된 분류를 제거하여, 예를 들어 노래책에 대해 '악기'를 포함시키지 않음으로써 더 정확한 경로 예측을 달성한다.
• NMT 모델은 훈련 데이터에서 유도된 강력한 구조적 사전 지식을 바탕으로 상위 수준의 분류부터 시작하여 리프 노드로 끝나는 경로를 생성한다.
• RDC 데이터셋에서는 124개의 새로운 전체 경로 분류를 생성했고, Ichiba 데이터셋에서는 48,455개의 새로운 경로를 생성하여 분류계층을 트리에서 방향성 비순환 그래프(DAG)로 전환시켰다.