[论文解读] Attentive Interaction Model: Modeling Changes in View in Argumentation

Yohan Jo, Shivani Poddar+4 more|arXiv (Cornell University)|Mar 30, 2018

Topic Modeling参考文献 23被引用 5

一句话总结

本文提出了注意力交互模型（Attentive Interaction Model, AIM），一种神经网络架构，通过联合建模意见持有者推理中的脆弱区域及其与挑战者论点之间的交互，来预测挑战者论点是否会改变意见持有者的观点。该模型通过注意力机制识别推理中易受改变的部分，并编码针对性的交互，从而在性能上超越基线模型。事后分析显示，成功论点更频繁地针对这些脆弱区域。

ABSTRACT

We present a neural architecture for modeling argumentative dialogue that explicitly models the interplay between an Opinion Holder's (OH's) reasoning and a challenger's argument, with the goal of predicting if the argument successfully changes the OH's view. The model has two components: (1) vulnerable region detection, an attention model that identifies parts of the OH's reasoning that are amenable to change, and (2) interaction encoding, which identifies the relationship between the content of the OH's reasoning and that of the challenger's argument. Based on evaluation on discussions from the Change My View forum on Reddit, the two components work together to predict an OH's change in view, outperforming several baselines. A posthoc analysis suggests that sentences picked out by the attention model are addressed more frequently by successful arguments than by unsuccessful ones.

研究动机与目标

• 以捕捉意见持有者推理与挑战者论点之间动态互动的方式，对论辩对话进行建模。
• 预测挑战者论点是否成功改变意见持有者的观点，超越二元立场分类。
• 识别意见持有者推理中最易改变的部分（脆弱区域），并分析挑战者论点与这些区域的交互如何影响观点转变。
• 理解哪些类型的交互（如同意、反对或补充缺失前提）最能有效改变观点。

提出的方法

• 该模型采用两组件架构：通过注意力机制检测脆弱区域，识别意见持有者推理中最具可变性的句子。
• 交互编码模块捕捉意见持有者推理中每个句子与挑战者论点中每个句子之间的语义关系，生成交互嵌入表示。
• 交互嵌入根据注意力机制生成的脆弱性得分进行加权，突出与推理中最脆弱部分相关的交互。
• 最终预测通过基于加权交互表示的分类器完成，实现端到端的视角转变学习。
• 该模型在来自 Change My View（CMV）Reddit 论坛的真实论辩数据集上进行训练与评估。
• 事后分析利用注意力权重与交互嵌入，解释模型行为，并将其发现与论辩理论相关联。

实验结果

研究问题

• RQ1 RQ1：与基线模型相比，脆弱区域检测与交互编码的架构是否能提升观点转变的预测性能？
• RQ2 RQ2：该模型能否识别出意见持有者推理中更可能因被回应而改变观点的句子？
• RQ3 RQ3：该模型捕捉到了意见持有者推理与挑战者论点之间的哪些交互类型？
• RQ4 RQ4：诸如代词、礼貌标记和疑问句等语言特征，与成功观点转变之间存在何种关联？

主要发现

• 注意力交互模型在预测挑战者论点是否改变意见持有者观点方面，显著优于多个强基线模型。
• 由注意力机制识别出的脆弱句子，被成功挑战者回应的频率显著高于不成功挑战者，验证了模型检测可变推理部分的能力。
• 交互嵌入捕捉到了有意义的论辩模式，包括挑战者提问（占前10%交互对的22%）和指明信息缺失（占前10%交互对的23%）。
• 该模型捕捉到了细微的交互模式，如补充缺失前提，即使未被明确标记，也表现出微弱但显著的相关性（r = -0.04），即主题新颖性与交互嵌入维度之间存在负相关。
• 语言学分析表明，第一人称代词（如 'I', 'me'）与观点转变呈正相关，而第二人称代词（如 'you', 'you_are'）和疑问句（如 'why', 'do_you'）则呈负相关。
• 该模型的注意力机制能有效突出更可能被说服性论点针对的推理片段，表明其学习到了可解释且与行为相关的表征。