[论文解读] Product Function Need Recognition via Semi-supervised Attention Network

Hu Xu, Sihong Xie+2 more|arXiv (Cornell University)|Dec 6, 2017

Advanced Text Analysis Techniques参考文献 23被引用 3

一句话总结

本文提出一种半监督注意力网络（SAN），用于从电子商务问答论坛中的客户问题中识别产品功能需求。通过注意力机制利用未标注问题作为上下文辅助信息，SAN 提升了序列标注性能，在新标注的、密集的问答语料库上实现了 0.776 的 SOTA F1 分数，用于产品功能提取。

ABSTRACT

Functionality is of utmost importance to customers when they purchase products. However, it is unclear to customers whether a product can really satisfy their needs on functions. Further, missing functions may be intentionally hidden by the manufacturers or the sellers. As a result, a customer needs to spend a fair amount of time before purchasing or just purchase the product on his/her own risk. In this paper, we first identify a novel QA corpus that is dense on product functionality information \footnote{The annotated corpus can be found at \url{https://www.cs.uic.edu/~hxu/}.}. We then design a neural network called Semi-supervised Attention Network (SAN) to discover product functions from questions. This model leverages unlabeled data as contextual information to perform semi-supervised sequence labeling. We conduct experiments to show that the extracted function have both high coverage and accuracy, compared with a wide spectrum of baselines.

研究动机与目标

• 解决从电子商务平台的非结构化问答数据中识别客户所询问的产品功能的挑战。
• 通过利用未标注数据，克服功能需求识别中标签数据稀疏和 OOV（词汇表外）词的问题。
• 开发一种新颖的深度学习框架，将注意力机制与半监督学习相结合，用于序列标注。
• 构建一个高质量、密集标注的问答语料库，用于产品功能标注，以支持未来在功能需求识别方面的研究。
• 通过整合未标注问题中的上下文信息，提升功能提取的覆盖范围和准确性，优于监督基线方法。

提出的方法

• 提出一种半监督注意力网络（SAN），将监督的双向 LSTM 序列标注模型与对未标注问题的注意力机制相结合。
• 利用注意力机制动态衡量在标注给定标注问题时，未标注问题中词语的相关性，将未标注数据视为辅助信息。
• 将标注和未标注问题拼接为单个输入序列，每例最大长度为 40 个词元。
• 端到端训练模型，使用标注数据的交叉熵损失进行优化，同时利用注意力机制引导未标注数据的表征学习。
• 通过未标注数据中的信息对罕见或未见词进行词嵌入微调，提升对标注词汇表外词汇的泛化能力。
• 在标注问题上使用两层双向 LSTM，在未标注问题上使用单层双向 LSTM，以学习分层表征。

实验结果

研究问题

• RQ1 半监督深度学习模型能否有效识别电子商务问答论坛中客户问题的产品功能需求？
• RQ2 与纯监督方法相比，将未标注问题作为上下文辅助信息，能在多大程度上提升功能识别性能？
• RQ3 注意力机制在半监督序列标注设置中，对功能需求识别的表征学习能带来多大程度的增强？
• RQ4 所提出的 SAN 模型在精确率、召回率和 F1 分数方面是否优于强基线模型（如 CRF、S-BLSTM 和 SAN(-)BLSTM2）？
• RQ5 通过利用未标注数据中的上下文线索，模型能否对训练数据中未出现的未见功能表达实现泛化？

主要发现

• 所提出的 SAN 模型取得 0.776 的 F1 分数，优于所有基线模型，包括 CRF（0.692）、S-BLSTM（0.749）和 SAN(-)BLSTM2（0.759）。
• 与 S-BLSTM 相比，SAN 的召回率提升 5.8%（0.721 vs. 0.673），表明在识别涉及罕见或未见词的功能需求方面具有更好的覆盖能力。
• 模型在保持高精确率（0.839）的同时显著提升召回率，表明有效利用了未标注数据，且未牺牲准确性。
• 消融实验证实，第二层双向 LSTM 和对未标注数据的注意力机制均对性能提升至关重要。
• 利用未标注数据可有效调整词汇表外词的词嵌入，增强模型的泛化能力。
• 新标注的问答语料库（公开获取地址：https://www.cs.uic.edu/~hxu/）在功能信息上具有高密度，可作为未来功能需求识别研究的宝贵基准。