[论文解读] Experimenting with Transitive Verbs in a DisCoCat

Edward Grefenstette, Mehrnoosh Sadrzadeh|arXiv (Cornell University)|Jul 15, 2011

Natural Language Processing Techniques参考文献 25被引用 49

一句话总结

本文在 DisCoCat 框架中研究了三种将及物动词向量编码为 $ r \times r $ 矩阵的方法，评估其在句子相似性消歧任务中的表现。主要发现是将动词向量编码为其自身的张量积（$ v \otimes v $）时，Spearman 等级相关系数 $ \rho $ 达到最高值 0.28，优于所有其他编码方法，包括对角线编码和先前使用的间接矩阵方法，表明动词矩阵中完整的关联结构能显著提升组合语义建模效果。

ABSTRACT

Formal and distributional semantic models offer complementary benefits in modeling meaning. The categorical compositional distributional (DisCoCat) model of meaning of Coecke et al. (arXiv:1003.4394v1 [cs.CL]) combines aspected of both to provide a general framework in which meanings of words, obtained distributionally, are composed using methods from the logical setting to form sentence meaning. Concrete consequences of this general abstract setting and applications to empirical data are under active study (Grefenstette et al., arxiv:1101.0309; Grefenstette and Sadrzadeh, arXiv:1106.4058v1 [cs.CL]). . In this paper, we extend this study by examining transitive verbs, represented as matrices in a DisCoCat. We discuss three ways of constructing such matrices, and evaluate each method in a disambiguation task developed by Grefenstette and Sadrzadeh (arXiv:1106.4058v1 [cs.CL]).

研究动机与目标

• 研究在 DisCoCat 框架中，除间接方法外，构建动词矩阵的替代方法。
• 评估不同动词向量矩阵编码方式对消歧任务中组合句子语义的影响。
• 确定将动词向量编码为完整 $ r \times r $ 矩阵（而非仅对角线）是否能提升语义相似度预测性能。
• 比较对角线、常数填充和基于张量积的矩阵编码在建模及物动词语义方面的实际性能。

提出的方法

• 将动词向量 $ \vec{tverb} $（一个 $ r $ 维行向量）通过三种不同方法编码为 $ r \times r $ 矩阵：全零对角线编码（0-diag）、全一对角线编码（1-diag）和自身张量积（$ v \otimes v $）。
• 通过逐元素乘法计算句子语义：$ \vec{sub} \otimes \vec{obj} \odot \underline{tverb} $，其中 $ \underline{tverb} $ 为及物动词的矩阵表示。
• DisCoCat 框架确保语法结构得以保留，主语与宾语向量在经由张量积组合后，再由动词矩阵调制。
• 使用结果句子向量的 Frobenius 范数计算句子对之间的语义相似度，并与人工判断结果进行比较。
• 评估指标为模型预测与人工标注相似度得分之间的 Spearman 等级相关系数 $ \rho $，并进行基线与上限性能对比。
• 间接方法（先前使用）通过 BNC 中动词关联的主语-宾语对共现统计量构建动词矩阵。

实验结果

研究问题

• RQ1 不同的及物动词矩阵编码策略如何影响 DisCoCat 中组合句子语义建模的准确性？
• RQ2 将动词向量编码为完整 $ r \times r $ 矩阵（而非仅对角线）是否能提升语义相似度任务中的性能？
• RQ3 动词向量与其自身张量积（$ v \otimes v $）的编码方式是否优于对角线或常数填充方法？
• RQ4 尽管结构简单，为何 $ v \otimes v $ 方法的表现优于更复杂的间接矩阵构建方法？
• RQ5 在动词矩阵中保留非对角线信息在多大程度上能增强及物句中关系语义的建模？

主要发现

• 在所有方法中，$ v \otimes v $ 矩阵编码实现了最高的 Spearman 等级相关系数 $ \rho $（0.28），显著优于间接矩阵方法（ρ=0.21）及其他所有编码方式。
• 1-diag 方法的 $ \rho $ 为 0.08，0-diag 方法为 0.17，表明仅使用对角线的编码方式效果较差，不如完整矩阵表示。
• 先前使用的间接矩阵方法得到 $ \rho $=0.21，表明其虽有效，但仍逊于更简单的 $ v \otimes v $ 编码方式。
• $ v \otimes v $ 方法能够完整保留并传播主语-宾语之间的所有交互关系，而对角线方法仅将动词权重应用于对角元素。
• 该方法的成功表明，动词矩阵中完整的关联结构对于建模及物动词语义至关重要，验证了高维表示的必要性。
• 结果表明，矩阵表示中除动词词典向量外的额外信息显著提升了组合语义建模效果。