[论文解读] DAN: Dual-View Representation Learning for Adapting Stance Classifiers to New Domains

Chang Xu, Cécile Paris+4 more|arXiv (Cornell University)|Mar 13, 2020

Topic Modeling参考文献 33被引用 6

一句话总结

本文提出DAN，一种双视角表征学习框架，通过分别建模主观（基于观点）和客观（基于事实）的立场表达，提升立场分类器在新领域的适应能力。通过在两个独立视角中学习领域不变特征并最优融合，DAN在对齐和立场判别方面优于单视角方法，在20项迁移任务中持续超越最先进基线模型，且代理A-距离值更低。

ABSTRACT

We address the issue of having a limited number of annotations for stance classification in a new domain, by adapting out-of-domain classifiers with domain adaptation. Existing approaches often align different domains in a single, global feature space (or view), which may fail to fully capture the richness of the languages used for expressing stances, leading to reduced adaptability on stance data. In this paper, we identify two major types of stance expressions that are linguistically distinct, and we propose a tailored dual-view adaptation network (DAN) to adapt these expressions across domains. The proposed model first learns a separate view for domain transfer in each expression channel and then selects the best adapted parts of both views for optimal transfer. We find that the learned view features can be more easily aligned and more stance-discriminative in either or both views, leading to more transferable overall features after combining the views. Results from extensive experiments show that our method can enhance the state-of-the-art single-view methods in matching stance data across different domains, and that it consistently improves those methods on various adaptation tasks.

研究动机与目标

• 通过改进立场分类的领域自适应，解决新领域中标注立场数据有限的挑战。
• 识别并建模两种不同的语言类型立场表达：主观（观点导向）和客观（事实导向）话语。
• 设计一种双视角自适应网络（DAN），在独立视角中学习领域不变且具有立场判别能力的特征，以提升可迁移性。
• 验证联合学习与双视角特征最优融合可带来比单视角方法更优的对齐效果与性能表现。
• 通过定量与定性分析，证明DAN在多样化迁移任务中的有效性。

提出的方法

• DAN将每个输入话语分解为两个视角：一个用于主观表达（观点），一个用于客观表达（事实），从而实现独立的特征学习。
• 模型采用各视角专属的领域判别器（判别器）通过对抗训练强制每个视角中的领域不变性。
• 每个视角通过针对其对应表达类型语言特征量身定制的共享编码器网络，学习具有立场判别能力的特征。
• 通过可学习的融合机制，结合两个视角中表现最佳的特征，实现视角融合，生成统一且可迁移的表征。
• 所有组件通过反向传播联合训练，损失函数为结合立场分类与领域对抗目标的多任务损失。
• 该框架与现有单视角领域自适应方法（如DANN、WDGRL）兼容，通过集成双视角学习机制实现增强。

实验结果

研究问题

• RQ1 将主观与客观立场表达作为独立视角建模，能否提升立场分类中的领域自适应性能？
• RQ2 在两种不同语言视角中学习领域不变特征，是否能比单一全局特征空间带来源域与目标域之间更好的对齐效果？
• RQ3 双视角特征融合相较于单视角方法，如何影响整体可迁移性与立场判别能力？
• RQ4 所提出的双视角自适应在多大程度上降低了领域间的代理A-距离，表明领域差异减少？
• RQ5 DAN框架能否有效集成并改进现有最先进单视角领域自适应方法在立场分类中的表现？

主要发现

• 在全部20项迁移任务中，D-DANN与D-WDGRL（即DAN增强版的DANN与WDGRL）的代理A-距离值均持续低于原始模型，表明领域对齐能力得到提升。
• DAN学习到的双视角特征比单视角方法更具领域不变性与立场判别性，经t-SNE可视化结果证实。
• 定性分析表明，主观与客观视角捕捉了不同的语言模式，各自为最终表征贡献了独特的判别能力。
• 双视角特征的最优融合生成了比单独使用任一视角更可迁移的表征，证明了视角特异性学习与融合的必要性。
• 所提方法在多样化迁移任务中提升了基线单视角自适应方法的性能，验证了其泛化能力与有效性。
• 结果证实，通过双视角进行细粒度自适应可降低领域差异，并在低资源环境下增强立场分类的泛化能力。