[論文レビュー] Deep Recurrent Neural Networks for Product Attribute Extraction in eCommerce

Bodhisattwa Prasad Majumder, Aditya Subramanian+3 more|arXiv (Cornell University)|Mar 29, 2018

Advanced Text Analysis Techniques参考文献 10被引用数 10

ひとこと要約

本論文は、eコマースにおける製品属性抽出のため、双方向LSTMとCRF、および注目メカニズムを統合した深層再帰ニューラルネットワークアーキテクチャを提案する。ブランド属性抽出において、SOTAのF₁スコア0.9599を達成し、以前のベンチマークを最低0.0391以上上回り、ファセット検索およびオンラインショッピング体験を顕著に向上させる。

ABSTRACT

Extracting accurate attribute qualities from product titles is a vital component in delivering eCommerce customers with a rewarding online shopping experience via an enriched faceted search. We demonstrate the potential of Deep Recurrent Networks in this domain, primarily models such as Bidirectional LSTMs and Bidirectional LSTM-CRF with or without an attention mechanism. These have improved overall F1 scores, as compared to the previous benchmarks (More et al.) by at least 0.0391, showcasing an overall precision of 97.94%, recall of 94.12% and the F1 score of 0.9599. This has made us achieve a significant coverage of important facets or attributes of products which not only shows the efficacy of deep recurrent models over previous machine learning benchmarks but also greatly enhances the overall customer experience while shopping online.

研究の動機と目的

• eコマースにおける製品属性抽出の正確性とカバレッジを向上させ、ファセット検索機能を強化すること。
• 手作業で特徴を設計する必要がある従来の機械学習モデルの限界を克服し、エンドツーエンドのディープラーニングを活用すること。
• 「ブランド」などの属性を製品タイトルから抽出する際、双方向LSTM-CRFと注目メカニズムの有効性を評価すること。
• 改善された属性抽出がインプレッション、クリック、カートへの追加率などの主要ビジネス指標に与える影響を定量化すること。

提案手法

• 属性の境界（B-属性、I-属性、O）を明示するため、BIOラベル付けスキームを用いて製品タイトルをアノテートする。
• 製品タイトルの前向きおよび後向きの文脈的依存関係を捉えるために、双方向LSTMを採用する。
• ラベルの依存関係をモデル化し、シーケンスラベリングの正確性を向上させるために、出力層に条件付きランダムフィールド（CRF）を統合する。
• 特にCRFレイヤーが存在しない場合に、関連するトークンに注目するため、注目メカニズムを適用する。
• 意味的および語形的情報を保持するため、トレーニング可能な単語埋め込み（100次元）と文字埋め込み（25次元）を用いる。
• ドロップアウト率0.2を伴う確率的勾配降下法を用い、200エポックにわたり5分割交差検証でモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 深層再帰モデルは、従来の機械学習モデルに比べ、製品タイトルからの属性抽出において優れていると言えるか？
• RQ2 注目メカニズムの統合は、双方向LSTM-CRFモデルの属性抽出性能にどのように影響を与えるか？
• RQ3 CRFレイヤーは注目メカニズムに干渉するのか？その理由は何か？
• RQ4 改善された属性抽出は、インプレッションやコンversion率などのeコマースビジネス指標に、実際にどのような影響を与えるか？

主な発見

• 双方向LSTM-CRFモデルはF₁スコア0.9599を達成し、以前の最良手法に比べ0.0391の向上を示した。
• 精度は97.94％に達し、リ콜は94.12％であった。これはブランド属性を高精度に同定できることを示している。
• 注目メカニズムは、双方向LSTM-CRFモデルではF₁スコアの向上をもたらさなかった。これは、CRFレイヤーと機能的に重複している可能性を示唆している。
• 一方で、CRFが存在しない双方向LSTMモデルでは、注目メカニズムが精度を向上させた。これは、特定の構成において補完的な役割を果たしている可能性を示している。
• 導入後27日間で、1日あたり約25万件のインプレッションが増加した。これは、実世界におけるビジネスインパクトを裏付けるものである。
• 「内部メモリ」「製品ライン」「メーカー部品番号」などの他の属性に対しても、それぞれ3.02％、1.02％、4.38％の精度向上が見られた。