[论文解读] Leveraging Just a Few Keywords for Fine-Grained Aspect Detection Through Weakly Supervised Co-Training

Giannis Karamanolakis, Daniel Hsu+1 more|arXiv (Cornell University)|Sep 1, 2019

Sentiment Analysis and Opinion Mining参考文献 47被引用 4

一句话总结

本文提出了一种弱监督学生-教师联合训练框架，仅使用每个方面少数种子词即可训练强大的神经模型，实现细粒度方面检测。通过使用词袋教师模型引导神经学生模型，并利用联合训练迭代优化种子词质量，该方法在12个多样化数据集上相较先前弱监督方法实现了14.1个百分点的绝对F1提升。

ABSTRACT

User-generated reviews can be decomposed into fine-grained segments (e.g., sentences, clauses), each evaluating a different aspect of the principal entity (e.g., price, quality, appearance). Automatically detecting these aspects can be useful for both users and downstream opinion mining applications. Current supervised approaches for learning aspect classifiers require many fine-grained aspect labels, which are labor-intensive to obtain. And, unfortunately, unsupervised topic models often fail to capture the aspects of interest. In this work, we consider weakly supervised approaches for training aspect classifiers that only require the user to provide a small set of seed words (i.e., weakly positive indicators) for the aspects of interest. First, we show that current weakly supervised approaches do not effectively leverage the predictive power of seed words for aspect detection. Next, we propose a student-teacher approach that effectively leverages seed words in a bag-of-words classifier (teacher); in turn, we use the teacher to train a second model (student) that is potentially more powerful (e.g., a neural network that uses pre-trained word embeddings). Finally, we show that iterative co-training can be used to cope with noisy seed words, leading to both improved teacher and student models. Our proposed approach consistently outperforms previous weakly supervised approaches (by 14.1 absolute F1 points on average) in six different domains of product reviews and six multilingual datasets of restaurant reviews.

研究动机与目标

• 为解决在标注成本过高导致完全标注不可行时，评论中细粒度方面检测的挑战。
• 改进现有弱监督方法，这些方法未能有效利用种子词进行方面检测。
• 开发一种学生-教师联合训练框架，使种子词的利用效率优于先前方法。
• 即使种子词存在噪声或不精确，也能仅使用少量种子词实现鲁棒的方面检测。
• 在多样化领域和多语言设置中均实现一致的性能提升。

提出的方法

• 一个词袋分类器（教师）将单个种子词作为噪声指标用于方面预测，将每个种子词视为弱信号。
• 教师模型为未标注的评论片段生成方面概率，用于弱监督更强大的学生模型（例如，使用预训练嵌入的神经网络）。
• 学生模型通过学习输入中的种子词和非种子词，泛化能力优于教师模型。
• 迭代式联合训练通过交替使用学生预测结果优化教师对种子词质量的估计，并基于改进的教师输出重新训练学生模型。
• 通过分析学生-教师不一致情况，以无监督方式建模种子词质量，减少对人工种子词权重的依赖。
• 该框架支持多语言和跨领域方面检测，适用于任何具有种子词描述的分类任务。

实验结果

研究问题

• RQ1 仅使用少量种子词的弱监督方法能否在细粒度方面检测中实现最先进性能？
• RQ2 如何比当前将种子词视为整体信号的弱监督方法更有效地利用种子词？
• RQ3 学生-教师联合训练框架是否通过使学生模型超越教师模型的有限信号而提升性能？
• RQ4 迭代式联合训练能否以无监督方式优化噪声种子词质量，从而同时提升教师和学生模型？
• RQ5 所提方法在多样化领域和多语言设置中的泛化能力如何？

主要发现

• 在12个数据集（包括6个产品评论和6个多语言餐厅评论数据集）上，该方法相较先前弱监督方法实现了平均14.1个百分点的绝对F1提升。
• 在使用基于BERT的学生模型时，迭代式联合训练使教师模型在产品评论中的性能最高提升12.3%，通过优化种子词质量估计。
• 学生模型始终优于教师模型，表明从非种子词中进行泛化能显著提升性能。
• 即使从学生输入中移除种子词（RSW基线），仍能获得有意义的性能，表明非种子词对方面检测具有预测能力。
• 性能提升在前两个联合训练轮次中最为显著，表明快速收敛且种子词质量得到有效优化。
• 该方法在不同领域和语言间具有鲁棒性，在英语和非英语环境（如法语、西班牙语）中均观察到一致的性能提升。