[論文レビュー] Automatic Generation of Chinese Short Product Titles for Mobile Display

Yu Gong, Xusheng Luo+4 more|arXiv (Cornell University)|Mar 30, 2018

Natural Language Processing Techniques参考文献 22被引用数 6

ひとこと要約

本論文は、中国語EC製品タイトルの抽出的要約のための特徴豊富なニューラルネットワークモデルを提案する。双方向LSTMとTF-IDFスコア、NERタグを組み合わせることで、10文字未満の簡潔で人間が読みやすい短いタイトルを生成する。モデルはROUGE-1 F1スコア0.725を達成し、A/Bテストでオンライン売上を2.31%向上させ、ベースラインより顕著な向上を示した。

ABSTRACT

This paper studies the problem of automatically extracting a short title from a manually written longer description of E-commerce products for display on mobile devices. It is a new extractive summarization problem on short text inputs, for which we propose a feature-enriched network model, combining three different categories of features in parallel. Experimental results show that our framework significantly outperforms several baselines by a substantial gain of 4.5%. Moreover, we produce an extractive summarization dataset for E-commerce short texts and will release it to the research community.

研究の動機と目的

• モバイル端末での表示において、長すぎるEC製品タイトルが切り詰められ、意味が通じなくなる問題に対処すること。
• 長さを最小限に抑えつつ、重要な製品属性を保持する抽出的要約フレームワークを開発すること。
• 研究用に公開可能な短い製品タイトルのアノテーションデータセットを構築すること。
• 必須の製品特徴を反映する短いタイトルの生成により、ユーザーエクスペリエンスとコンversionレートを向上させること。

提案手法

• モデルは、入力タイトル内の順序的依存関係を捉えるために、深層双方向LSTMエンコーダーを用いる。
• 並列に3種類の特徴を統合する：単語レベルの意味的特徴（TF-IDFスコア）、名前付きエンティティ認識（NER）タグ、およびBiLSTMからの文脈的表現。
• 出力要約のための関連語を入力から選択するために、微分可能なデコードを備えたポインタネットを用いる。
• 語の選択を最適化するために、クロスエントロピー損失関数を用いてエンドツーエンドでモデルを学習する。
• 重要な語、特にカテゴリ用語や修飾語を重みづけするために、アテンションメカニズムを統合する。
• 実世界のパフォーマンスを評価するために、タオバオのモバイルアプリでA/Bテストにシステムをデプロイする。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークと明示的な意味的特徴を組み合わせたハイブリッドモデルは、短いEC製品タイトルの抽出的要約を改善できるか？
• RQ2 TF-IDFスコアとNERタグの統合は、短いタイトル生成における顕著な語を特定するためにどの程度有効か？
• RQ3 厳密な長さ制約のもとで、本モデルは、簡潔で読みやすく、情報豊富な短いタイトルを生成する強力なベースラインを上回るか？
• RQ4 本モデルは、実世界のEC応用において、ユーザーエンゲージメントとコンversionレートをどの程度向上させるか？

主な発見

• 提案された特徴豊富なネットワークモデルは、ROUGE-1 F1スコア0.725を達成し、強力なベースラインより顕著に4.5%の向上を示した。
• 11/11ショッピングフェスティバル期間中の5日間のA/Bテストで、オンライン売上を2.31%、転換率を1.22%向上させた。
• 人間によるアノテーションでは、カテゴリ用語（例：「ドレス」）と重要な記述語（例：「ボートネック」）が優先され、モデルはこれを的確に捉えた。
• モデルは、アテンションメカニズムを効果的に活用し、「レザージャケット」や「スネークプリント」などの重要な語を強調しており、TF-IDFスコアとアテンションスコアの両方が高い。
• BiLSTM-Netなどのベースラインモデルは、しばしば重要な属性を漏れたり、ブランド名のような余分な語を含めたりするが、本モデルはこうした誤りを回避した。
• 「ジャケット」と「レザージャケット」のような意味的に類似した語を処理する際には、両方を不要に保持してしまう可能性があるため、改善の余地がある。