[論文レビュー] A Multi-task Learning Approach for Improving Product Title Compression with User Search Log Data

Jingang Wang, Junfeng Tian+5 more|arXiv (Cornell University)|Jan 5, 2018

Topic Modeling参考文献 28被引用数 19

ひとこと要約

本論文は、共有された意味的埋め込みと注目分布の整合性を用いて、製品タイトルの圧縮とユーザークエリ生成を同時に最適化するマルチタスク学習フレームワークを提案する。ユーザー検索ログと手動で圧縮されたタイトルを活用することで、圧縮品質とオンラインコンversion率の両方を向上させ、A/BテストにおいてベースラインのILP手法比でCTRが2.58%、CVRが1.32%向上した。

ABSTRACT

It is a challenging and practical research problem to obtain effective compression of lengthy product titles for E-commerce. This is particularly important as more and more users browse mobile E-commerce apps and more merchants make the original product titles redundant and lengthy for Search Engine Optimization. Traditional text summarization approaches often require a large amount of preprocessing costs and do not capture the important issue of conversion rate in E-commerce. This paper proposes a novel multi-task learning approach for improving product title compression with user search log data. In particular, a pointer network-based sequence-to-sequence approach is utilized for title compression with an attentive mechanism as an extractive method and an attentive encoder-decoder approach is utilized for generating user search queries. The encoding parameters (i.e., semantic embedding of original titles) are shared among the two tasks and the attention distributions are jointly optimized. An extensive set of experiments with both human annotated data and online deployment demonstrate the advantage of the proposed research for both compression qualities and online business values.

研究の動機と目的

• モバイルEコマースにおいて、SEO最適化された長い製品タイトルを圧縮する際、ユーザー体験やコンversion率を損なわずに処理する課題に対処すること。
• 従来の抽出的要約手法における高コストな前処理や手動による特徴工学的処理への依存を低減すること。
• 取引データを併用した手動で編集された短縮タイトルとユーザー検索クエリから、同時に学習することで圧縮品質を向上させること。
• ユーザーの検索行動と購入に繋がるキーワードを優先することで、ビジネス成果を最適化すること。
• ルールベースおよび単一タスクアプローチを上回る、実世界での展開に適したデータ駆動型でエンドツーエンドのフレームワークを構築すること。

提案手法

• 2つの並列なシーケンス・ツー・シーケンスモデルを有するマルチタスク学習フレームワークを設計：1つは抽出的タイトル圧縮、もう1つはユーザークエリ生成。
• 両モデルは同じエンコーダーを共有し、元の製品タイトルの統一された意味的埋め込みを生成する。
• ポインタネットと注目メカニズムを用いて、圧縮タイトルと検索クエリを生成し、出力語はすべて元のタイトルから抽出されるように保証する。
• 元のタイトルトークン上の注目分布を、圧縮とユーザー検索意図の両方に関連する重要な語に一致させるように、共同最適化する。
• 2つのタスク間の注目焦点の一貫性を促進するための同意損失を導入し、顕著なキーワードの特定を強化する。
• 本フレームワークは、中国の大手Eコマースプラットフォームの実データ（手動で圧縮されたタイトルと取引付き検索ログ）を用いて学習された。

実験結果

リサーチクエスチョン

• RQ1 共有された意味表現を用いて、マルチタスク学習フレームワークが、製品タイトル圧縮とユーザークエリ生成の両方を同時に改善できるか？
• RQ2 圧縮とクエリ生成の間で注目分布を整合させることで、タイトル圧縮における顕著なキーワードの選定がどの程度向上するか？
• RQ3 提案手法は、従来のルールベース（例：ILP）および単一タスクディープラーニングアプローチに比べて、圧縮品質およびビジネス指標でどの程度優れているか？
• RQ4 取引シグナルを併せ持つユーザー検索ログデータを組み込むことで、ユーザーの意図に適合し、コンversion率が向上するか？
• RQ5 データ駆動型でエンドツーエンドのモデルは、Eコマースタイトル圧縮における手動による前処理や特徴工学的処理の必要性をどの程度低減できるか？

主な発見

• 提案されたAgree-MTLモデルは、オンラインA/BテストにおいてベースラインのILP手法比でクリックスルーレート（CTR）が2.58%相対的に向上した。
• モデルはベースライン比でクリックコンバージョンレート（CVR）を1.32%向上させ、クリック後のコンバージョン性能が向上したことを示した。
• 注目同意メカニズムにより、ユーザー検索ログで好まれるキーワード（例：英語ブランド名「D’ZZIT」など）が効果的に強調された。
• フレームワークは、ヴァナラマルチタスク学習および標準ポインタネットよりも抽出的圧縮品質とビジネス価値の両面で優れていた。
• 人間による評価では、生成された短縮タイトルが文法的に正しく、意味が通じるだけでなく、重要な製品属性を保持していたことが確認された。
• オンライン展開の結果、モデルは簡潔なタイトルによりユーザー体験を向上させるだけでなく、直接的に取引コンバージョンレートの向上にも寄与した。