[论文解读] Learning in the Rational Speech Acts Model

Will Monroe, Christopher Potts|arXiv (Cornell University)|Oct 23, 2015

Topic Modeling参考文献 37被引用 50

一句话总结

本文提出了一种可微分的、数据驱动的理性言语行为（RSA）模型——学习型RSA，该模型用可训练的分类器替代了人工编写的语义词典，实现了端到端的语用语言生成学习。通过将RSA建模为具有表示说话者和听者推理的隐藏层的神经网络，该模型结合了学习到的特征与严谨的语用推理，从而在指代表达生成任务上达到了最先进性能。

ABSTRACT

The Rational Speech Acts (RSA) model treats language use as a recursive process in which probabilistic speaker and listener agents reason about each other's intentions to enrich the literal semantics of their language along broadly Gricean lines. RSA has been shown to capture many kinds of conversational implicature, but it has been criticized as an unrealistic model of speakers, and it has so far required the manual specification of a semantic lexicon, preventing its use in natural language processing applications that learn lexical knowledge from data. We address these concerns by showing how to define and optimize a trained statistical classifier that uses the intermediate agents of RSA as hidden layers of representation forming a non-linear activation function. This treatment opens up new application domains and new possibilities for learning effectively from data. We validate the model on a referential expression generation task, showing that the best performance is achieved by incorporating features approximating well-established insights about natural language generation into RSA.

研究动机与目标

• 为解决传统RSA依赖人工指定的语义词典并假设理想理性的局限性，通过实现从数据中学习词汇与语用知识。
• 开发一种可微分、可训练的RSA版本，通过学习到的表征而非固定的贝叶斯计算来捕捉语用推理。
• 在指代表达生成任务上验证该模型，证明其能够融合启发式模型与纯RSA的洞察。
• 展示将基础交叉乘积特征与领域特定的生成特征相结合，相较于孤立的特征集合，能带来更优的性能。

提出的方法

• 通过将递归的说话者与听者推理步骤视为神经网络架构中的隐藏层，将RSA形式化为可微分分类器。
• 使用对数线性模型定义说话者对话语的概率分布，其特征来源于指代对象和候选话语的属性。
• 使用随机梯度下降进行端到端训练，以最大化训练数据中观察到的指代表达的概率。
• 引入两类特征：(1) 交叉乘积特征（如属性共现），以及 (2) 生成特定特征（如话语长度、属性类型、共现模式）。
• 将语用说话者 $ s_1 $ 定义为一种概率分类器，用于推理听者对字面说话者话语的解释，其中温度 $ \lambda $ 控制语用强度。
• 通过递归推理过程进行反向传播优化，使梯度能够从损失函数反向传播至模型参数，包括定义词典和特征权重的参数。

实验结果

研究问题

• RQ1 理性言语行为模型能否被重新构想为一种可训练的统计分类器，从而从数据中学习而非依赖人工编写的词典？
• RQ2 与纯RSA或基线模型相比，引入领域特定的生成启发式方法（如属性类型、话语长度）是否能提升指代表达生成的性能？
• RQ3 学习型RSA模型能否在生成准确且自然的指代表达方面，同时超越基于启发式的模型与标准RSA模型？
• RQ4 不同特征集合——基础交叉乘积特征与生成特定特征——在提升模型性能方面，其互补性在多大程度上体现？

主要发现

• 结合基础特征与生成特定特征的学习型RSA模型在TUNA联合语料库上取得了25.3%的准确率与0.777的多集合Dice分数，显著优于纯RSA与基线模型。
• 在更复杂的“人物”数据集上，结合特征的语用 $ s_1 $ 模型取得了22.5%的准确率与0.764的Dice分数，优于所有其他模型，并在处理如“胡须”和“头发”等信息性属性方面表现出系统性改进。
• 交叉乘积特征与生成特定特征的结合优于任一特征集单独使用，表明二者在建模语用选择方面具有互补优势。
• 学习型 $ S_1 $ 模型通过从自然语言生成中的数据模式中学习，纠正了纯RSA的系统性错误，如对颜色词和名词主词的生成不足。
• 该模型在“人物”数据集上的表现（22.5%准确率，0.764 Dice）优于2008年指代表达生成挑战赛中报告的最佳性能（0.762 Dice），尽管测试集存在差异。
• 仅使用生成特征的 $ S_0 $ 基线模型在完整数据集上取得了6.3%的准确率与0.738的Dice分数，表明即使字面说话者也能从引入语言生成启发式方法中受益。