[논문 리뷰] Automatic Generation of Chinese Short Product Titles for Mobile Display

Yu Gong, Xusheng Luo외 4명|arXiv (Cornell University)|2018. 03. 30.

Natural Language Processing Techniques참고 문헌 22인용 수 6

한 줄 요약

이 논문은 중국어 전자상거래 제품 제목의 추출적 요약을 위한 기능 풍부한 신경망 모델을 제안한다. 양방향 LSTM와 TF-IDF 점수, NER 태그를 결합하여 10자 이내의 간결하고 인간이 읽기 쉬운 짧은 제목을 생성한다. 모델은 ROUGE-1 F1 점수 0.725를 기록했으며, A/B 테스트에서 온라인 판매를 2.31% 향상시켜 기준 모델 대비 뚜렷한 성능 향상을 보였다.

ABSTRACT

This paper studies the problem of automatically extracting a short title from a manually written longer description of E-commerce products for display on mobile devices. It is a new extractive summarization problem on short text inputs, for which we propose a feature-enriched network model, combining three different categories of features in parallel. Experimental results show that our framework significantly outperforms several baselines by a substantial gain of 4.5%. Moreover, we produce an extractive summarization dataset for E-commerce short texts and will release it to the research community.

연구 동기 및 목표

• 모바일 기기에서 너무 긴 전자상거래 제품 제목이 자르혀 이해할 수 없는 조각으로 분리되는 문제를 해결하기 위해.
• 모바일 사용성에 최적화된 길이를 최소화하면서도 핵심 제품 속성을 유지하는 추출적 요약 프레임워크를 개발하기 위해.
• 전자상거래 텍스트 요약 연구를 위한 공개 가능한 짧은 제품 제목 주석 데이터셋을 구축하기 위해.
• 필수 제품 특징을 반영하는 짧은 제목을 생성하여 사용자 경험과 전환율을 향상시키기 위해.

제안 방법

• 모델은 입력 제목의 순차적 의존성을 포착하기 위해 깊이 있는 양방향 LSTM 인코더를 사용한다.
• 세 가지 유형의 특징을 병렬로 통합한다: 단어 수준의 의미적 특징(TF-IDF 점수), 명명된 실체 인식(NER) 태그, 그리고 BiLSTM에서 유도된 문맥 표현.
• 출력 요약에 필요한 단어를 입력에서 선택하기 위해 가분성 있는 디코딩을 갖춘 포인터 네트워크를 사용한다.
• 단어 선택을 최적화하기 위해 교차 엔트로피 손실 함수를 사용해 엔드 투 엔드로 모델을 훈련시킨다.
• 중요한 단어, 특히 카테고리 용어와 수식어를 가중치를 주기 위해 주의 메커니즘을 통합한다.
• 실제 성능 평가를 위해 타오바오 모바일 앱에서 A/B 테스트로 시스템을 배포한다.

실험 결과

연구 질문

• RQ1 깊이 있는 신경망과 명시적 의미 특징을 융합한 하이브리드 모델이 짧은 전자상거래 제품 제목의 추출적 요약에 효과적인가?
• RQ2 TF-IDF 점수와 NER 태그의 통합이 짧은 제목 생성을 위한 주요 단어 식별에 얼마나 효과적인가?
• RQ3 엄격한 길이 제약 조건 하에서 간결하고 읽기 쉬우며 정보가 풍부한 짧은 제목을 생성하는 데 있어 제안된 모델이 강력한 기준 모델을 능가하는가?
• RQ4 실제 전자상거래 응용에서 모델이 사용자 참여도와 전환율을 얼마나 향상시키는가?

주요 결과

• 제안된 기능 풍부한 네트워크 모델은 ROUGE-1 F1 점수 0.725를 기록했으며, 강력한 기준 모델 대비 4.5%의 상당한 향상을 이뤘다.
• 11/11 쇼핑 페스티벌 기간 동안 5일간의 A/B 테스트에서 모델은 온라인 판매를 2.31% 향상시키고 전환율을 1.22% 향상시켰다.
• 인간 주석 기반 짧은 제목은 카테고리 용어(예: '드레스')와 핵심 묘사어(예: '보트 네크라인')를 우선순위로 삼는데, 이는 모델이 성공적으로 이를 반영했다.
• 모델은 주의 메커니즘을 효과적으로 활용해 '레더 재킷'이나 '스네이크 프린트'와 같이 TF-IDF 점수와 주의 점수가 모두 높은 중요한 용어를 강조했다.
• BiLSTM-Net과 같은 기준 모델은 필수 속성을 놓치거나 브랜드명과 같은 불필요한 용어를 포함하는 경향이 있었지만, 제안된 모델은 이러한 오류를 피했다.
• 유사 의미어(예: '재킷'과 '레더 재킷')를 다룰 땐 둘 다 불필요하게 유지되는 경우가 있어 향후 개선이 가능할 잠재력이 있다.