[论文解读] Exploiting Coarse-to-Fine Task Transfer for Aspect-level Sentiment Classification

Zheng Li, Ying Wei+4 more|arXiv (Cornell University)|Nov 16, 2018

Sentiment Analysis and Opinion Mining参考文献 27被引用 9

一句话总结

本文提出一种基于多粒度对齐网络（MGAN）的从粗到细任务迁移框架，通过利用高资源粗粒度方面类别（AC-level）任务的知识，提升低资源方面级情感分类（AT-level）性能。MGAN采用从粗到细（C2F）注意力机制与对比特征对齐方法，弥合粒度与领域差异，在多个跨领域AT-level基准上实现最先进性能，数据集为大规模YelpAspect。

ABSTRACT

Aspect-level sentiment classification (ASC) aims at identifying sentiment polarities towards aspects in a sentence, where the aspect can behave as a general Aspect Category (AC) or a specific Aspect Term (AT). However, due to the especially expensive and labor-intensive labeling, existing public corpora in AT-level are all relatively small. Meanwhile, most of the previous methods rely on complicated structures with given scarce data, which largely limits the efficacy of the neural models. In this paper, we exploit a new direction named coarse-to-fine task transfer, which aims to leverage knowledge learned from a rich-resource source domain of the coarse-grained AC task, which is more easily accessible, to improve the learning in a low-resource target domain of the fine-grained AT task. To resolve both the aspect granularity inconsistency and feature mismatch between domains, we propose a Multi-Granularity Alignment Network (MGAN). In MGAN, a novel Coarse2Fine attention guided by an auxiliary task can help the AC task modeling at the same fine-grained level with the AT task. To alleviate the feature false alignment, a contrastive feature alignment method is adopted to align aspect-specific feature representations semantically. In addition, a large-scale multi-domain dataset for the AC task is provided. Empirically, extensive experiments demonstrate the effectiveness of the MGAN.

研究动机与目标

• 为解决细粒度方面项（AT）情感分类中标签数据有限的问题，通过利用更丰富的粗粒度方面类别（AC）任务知识来应对。
• 解决AC与AT任务之间在方面粒度上的不一致问题，其中AC任务缺乏位置特定信息。
• 缓解源域（AC）与目标域（AT）之间的领域偏移与特征分布不匹配问题。
• 通过有效的跨领域与跨粒度知识迁移，提升低资源设置下的模型泛化能力。
• 为未来研究提供大规模、多领域AC-level基准（YelpAspect）。

提出的方法

• 提出多粒度对齐网络（MGAN），联合建模源域（AC）与目标域（AT）中的方面特定表征。
• 引入从粗到细（C2F）注意力模块，使AC任务能自动在上下文中定位对应的方面项，降低粒度差异。
• 通过辅助任务训练C2F模块，无需额外标注，实现端到端的粗粒度到细粒度映射学习。
• 应用对比特征对齐（CFA）在跨领域上语义对齐方面特定特征，最大化同类样本的相似性，最小化异类样本的相似性。
• 采用逐点代理损失，结合语义对齐与分离，防止多方面句子中的错误对齐。
• 构建大规模多领域AC-level数据集（YelpAspect），每领域包含10万条样本，用于有效预训练与迁移。

实验结果

研究问题

• RQ1 来自高资源粗粒度方面类别（AC）任务的知识是否能提升低资源细粒度方面项（AT）情感分类任务的性能？
• RQ2 模型如何有效弥合粒度不同的方面类别与方面项之间的差距？
• RQ3 对比特征对齐在多大程度上能缓解跨领域情感分类中的领域偏移与错误对齐问题？
• RQ4 所提出的C2F注意力机制是否能提升模型定位方面项与捕捉情感相关上下文的能力？
• RQ5 所提出的MGAN框架在有限目标数据下是否能在多样化领域中实现良好泛化？

主要发现

• MGAN在多个跨领域AT-level基准上实现最先进性能，平均准确率较M-DAN与M-MMD提升1.80%，Macro-F1提升1.90%。
• 消融实验表明，移除语义分离损失（MGAN w/o SS）后，准确率下降0.81%，Macro-F1下降1.00%，证明区分不同情感类别的重要性。
• C2F注意力模块显著提升注意力定位能力：在困难样本中，MGAN能正确识别‘italian place’对应‘cuisine’，‘fake junk’对应‘ricotta cheese’，而基线模型失败。
• 可视化结果证实，C2F注意力成功捕捉到潜在方面项（如‘shells’对应‘food seafood sea’），与目标任务语义对齐。
• 在H→T迁移任务中，模型达到76.93%准确率与76.12% Macro-F1，展现出强大的跨领域泛化能力。
• 大规模YelpAspect数据集（每领域10万条样本）作为源域有效，可在低资源设置下实现强迁移性能。