[论文解读] Spin Glass Models of Syntax and Language Evolution

Karthik Siva, Jim Tao+1 more|arXiv (Cornell University)|Jul 31, 2015

Language and cultural evolution参考文献 11被引用 8

一句话总结

本文提出一种自旋玻璃模型，通过将句法参数视为语言图谱上的自旋变量，并基于双语维基百科编辑数据推导相互作用能量，模拟人类语言的句法演化。主要贡献在于表明：通过耦合伊辛-泊次系统建模的参数之间的蕴含关系，即使在低温下也能阻止参数完全对齐，揭示出与独立参数模型不同的复杂平衡动力学。

ABSTRACT

Using the SSWL database of syntactic parameters of world languages, and the MIT Media Lab data on language interactions, we construct a spin glass model of language evolution. We treat binary syntactic parameters as spin states, with languages as vertices of a graph, and assigned interaction energies along the edges. We study a rough model of syntax evolution, under the assumption that a strong interaction energy tends to cause parameters to align, as in the case of ferromagnetic materials. We also study how the spin glass model needs to be modified to account for entailment relations between syntactic parameters. This modification leads naturally to a generalization of Potts models with external magnetic field, which consists of a coupling at the vertices of an Ising model and a Potts model with q=3, that have the same edge interactions. We describe the results of simulations of the dynamics of these models, in different temperature and energy regimes. We discuss the linguistic interpretation of the parameters of the physical model.

研究动机与目标

• 将语言演化建模为一个统计力学系统，使用句法参数作为自旋变量。
• 研究基于双语维基百科编辑模式的语言间相互作用强度如何影响句法参数的对齐。
• 将自旋玻璃模型扩展以纳入句法参数之间的蕴含关系，这些关系对参数取值施加约束。
• 分析在不同温度和相互作用能量区域下，该模型的动力学与平衡态。
• 对比独立参数假设与包含蕴含关系的模型结果，突出其在收敛行为上的差异。

提出的方法

• 将每种语言表示为图中的一个顶点，其二元句法参数（如主-动-宾词序）作为自旋态（+1 或 -1）。
• 基于维基百科中的共同编辑频率定义语言对之间的相互作用能量，反映双语互动强度。
• 使用类似铁磁性的相互作用构建系统的哈密顿量，以促进自旋（句法参数）的对齐。
• 构建一个结合伊辛模型与 q=3 泊次模型的广义模型，通过共享边的相互作用编码蕴含关系，其中一个参数的取值约束另一个参数。
• 使用蒙特卡洛方法在不同温度和蕴含能量区域下模拟系统的动力学。
• 通过分析平衡态和自旋平均值，评估在各种条件下系统的收敛模式与参数对齐情况。

实验结果

研究问题

• RQ1 基于双语维基百科编辑数据推导出的相互作用强度如何影响语言演化中句法参数的对齐？
• RQ2 当句法参数具有蕴含关系而非独立时，参数对齐会发生什么变化？
• RQ3 具有耦合伊辛与泊次组分的自旋玻璃模型能否再现独立参数模型中未观察到的非平凡平衡构型？
• RQ4 温度如何影响蕴含关系存在时句法参数的收敛性？
• RQ5 在低温下，蕴含关系在多大程度上阻止句法参数的完全对齐？

主要发现

• 在独立参数模型中，参数在低温下倾向于对齐至 +1，反映出强相互作用下的收敛性。
• 引入蕴含关系后，即使在低温下系统仍表现出非对齐的平衡态，例如出现 (−1, 0) 或 (+1, −1) 的参数组合。
• 在第一个例子中，涉及三种语言和两个蕴含参数，低温高蕴含区域导致 (−1, 0) 等平衡态，表明存在部分对齐。
• 在第二个例子中，涉及英语、威尔士语、俄语和保加利亚语，低温高蕴含区域导致持续的非对齐状态，如 (−1, 0) 和 (+1, −1)，表明蕴含关系破坏了完全收敛。
• 蕴含能量的存在导致比独立参数模型更复杂的平衡构型，其结果取决于蕴含强度与温度的相对大小。
• 即使在低温区域，当存在蕴含关系时，所有参数的完全对齐也并非必然发生，这与独立参数动力学存在根本性差异。