[論文レビュー] Product Function Need Recognition via Semi-supervised Attention Network

Hu Xu, Sihong Xie+2 more|arXiv (Cornell University)|Dec 6, 2017

Advanced Text Analysis Techniques参考文献 23被引用数 3

ひとこと要約

本論文は、eコマースQAフォーラムにおける顧客の質問から製品機能要件を認識するための半教師付きアテンションネットワーク（SAN）を提案する。アテンション機構を通じて未ラベルの質問を文脈的側情報として活用することで、SANは系列ラベリング性能を向上させ、製品機能抽出のための新規にアノテートされた高密度なQAコーパス上で、最先端のF1スコア0.776を達成した。

ABSTRACT

Functionality is of utmost importance to customers when they purchase products. However, it is unclear to customers whether a product can really satisfy their needs on functions. Further, missing functions may be intentionally hidden by the manufacturers or the sellers. As a result, a customer needs to spend a fair amount of time before purchasing or just purchase the product on his/her own risk. In this paper, we first identify a novel QA corpus that is dense on product functionality information \footnote{The annotated corpus can be found at \url{https://www.cs.uic.edu/~hxu/}.}. We then design a neural network called Semi-supervised Attention Network (SAN) to discover product functions from questions. This model leverages unlabeled data as contextual information to perform semi-supervised sequence labeling. We conduct experiments to show that the extracted function have both high coverage and accuracy, compared with a wide spectrum of baselines.

研究の動機と目的

• eコマースプラットフォームの非構造的QAデータから顧客が求めている製品機能を特定する課題に対処すること。
• ラベル付きデータのスパarsityと語彙外語の問題を克服するため、未ラベルデータを活用することで、機能要件認識の限界を乗り越えること。
• アテンション機構と半教師付き学習を統合した新しい深層学習フレームワークを、系列ラベリングのために開発すること。
• 今後の研究を支援するため、製品機能に注釈を付けた高品質で高密度なQAコーパスを構築すること。
• 未ラベルの質問からの文脈的情報を組み込むことで、教師ありベースラインと比較して、機能抽出のカバレッジと正確性を向上させること。

提案手法

• ラベル付きのBi-LSTM系列ラベリングモデルと、未ラベルの質問に対するアテンション機構を組み合わせた半教師付きアテンションネットワーク（SAN）を提案する。
• アテンションを用いて、与えられたラベル付き質問をラベリングする際、未ラベルの質問内の語の関連性を動的に重み付けし、未ラベルデータを側情報として扱う。
• ラベル付きと未ラベルの質問を1つの入力系列に連結し、1例あたり最大40トークンまでとする。
• ラベル付きデータに対する交差エントロピー損失を用いてモデルをエンドツーエンドで訓練しつつ、未ラベルデータからの表現学習をアテンションが誘導する。
• 未ラベルデータからの情報を用いて、希少語や未知語の単語埋め込みを微調整し、ラベル付き語彙を超えた一般化を向上させる。
• ラベル付き質問には2層のBi-LSTM、未ラベルの質問には1層のBi-LSTMを用い、階層的表現を学習する。

実験結果

リサーチクエスチョン

• RQ1 半教師付きのディープラーニングモデルは、eコマースQAフォーラムの顧客質問から製品機能要件を効果的に認識できるか？
• RQ2 未ラベルの質問を文脈的側情報として活用することで、完全に教師ありの手法と比較して、機能認識性能がどのように向上するか？
• RQ3 アテンション機構は、半教師付きの系列ラベリング設定における表現学習をどの程度向上させられるか？
• RQ4 CRF、S-BLSTM、およびSANの変種と比較して、提案されたSANモデルは、正確性、再現率、F1スコアの観点で優れているか？
• RQ5 未ラベルデータからの文脈的ヒントを活用することで、ラベル付き学習データに存在しない未見の機能表現に対しても、モデルは一般化できるか？

主な発見

• 提案されたSANモデルはF1スコア0.776を達成し、CRF（0.692）、S-BLSTM（0.749）、SAN(-)BLSTM2（0.759）を含むすべてのベースラインを上回った。
• SANはS-BLSTM（0.721 vs. 0.673）と比較して再現率を5.8%向上させ、特に希少語や未知語を含む要件のカバレッジが優れていることが示された。
• 高い正確性（0.839）を維持しながら再現率を顕著に向上させたため、正確性を損なうことなく未ラベルデータを効果的に活用したことが示された。
• アブレーションスタディにより、2番目のBi-LSTM層と未ラベルデータに対するアテンション機構の両方が、性能向上に不可欠であることが確認された。
• 未ラベルデータの活用により、語彙外語の単語埋め込みの効果的なチューニングが可能となり、モデルの一般化能力が向上した。
• 公開された新規にアノテートされたQAコーパス（https://www.cs.uic.edu/~hxu/）は、機能情報に富んでおり、今後の機能要件認識分野の研究における貴重なベンチマークとして機能する。