[论文解读] Random crossings in dependency trees

Ramon Ferrer‐i‐Cancho|arXiv (Cornell University)|May 20, 2013

Natural Language Processing Techniques参考文献 16被引用 9

一句话总结

本文研究了随机依存树中的预期交叉数，表明其仅取决于句子长度和顶点度数的二阶矩。研究发现，星形树的交叉数最少（为零），而线性树的交叉数最多，且与句子长度呈二次方关系，支持了真实句法树因依存长度压力而最小化交叉数的假设。

ABSTRACT

It has been hypothesized that the rather small number of crossings in real syntactic dependency trees is a side-effect of pressure for dependency length minimization. Here we answer a related important research question: what would be the expected number of crossings if the natural order of a sentence was lost and replaced by a random ordering? We show that this number depends only on the number of vertices of the dependency tree (the sentence length) and the second moment about zero of vertex degrees. The expected number of crossings is minimum for a star tree (crossings are impossible) and maximum for a linear tree (the number of crossings is of the order of the square of the sequence length).

研究动机与目标

• 确定当词序随机化时，依存树中的预期交叉数。
• 量化结构特性（特别是句子长度和顶点度数分布）对交叉数的影响。
• 检验真实句法树的低交叉数是否源于依存长度最小化。
• 在随机排序下建立交叉数的理论基线，以便与真实语言数据进行比较。

提出的方法

• 作者将依存树建模为无向图，其中顶点代表词语，边代表句法依存关系。
• 推导出在顶点随机排列下预期交叉数的闭式表达式。
• 推导依赖于对随机排列中边交叉的组合分析，以顶点度数的二阶矩作为关键参数。
• 该模型假设词序为均匀随机排列，交叉定义为当顶点线性排列时，两条边发生交叉的边对。
• 分析区分了星形树（中心节点连接所有其他节点）和线性树（链状结构）作为极端情况。
• 理论结果通过附录中的解析推导和数值验证得到验证。

实验结果

研究问题

• RQ1 在词序随机化的情况下，依存树的预期交叉数是多少？
• RQ2 预期交叉数如何随句子长度和顶点度数分布而变化？
• RQ3 真实句法树的交叉数是否显著少于随机树？如果是，原因是什么？
• RQ4 哪些结构配置（例如星形与线性）会使预期交叉数最大化或最小化？

主要发现

• 随机依存树中的预期交叉数仅取决于顶点数和顶点度数的二阶矩。
• 对于星形树，预期交叉数为零，因为在任何排列中，没有两条边可以交叉。
• 对于线性树，预期交叉数按 O(n²) 的速率增长，其中 n 为句子长度。
• 最大预期交叉数出现在线性树中，而最小值出现在星形树中。
• 理论基线表明，随机排列产生的交叉数显著多于真实句法树中观察到的交叉数。
• 结果支持如下假设：人类语言中依存长度的最小化通过限制词序，减少了交叉数。