[論文レビュー] Spin Glass Models of Syntax and Language Evolution

Karthik Siva, Jim Tao+1 more|arXiv (Cornell University)|Jul 31, 2015

Language and cultural evolution参考文献 11被引用数 8

ひとこと要約

本稿では、言語の文法的パラメータをグラフ上のスピン変数として扱い、双語Wikipediaの編集データから得られる相互作用エネルギーを用いて、人間言語における文法進化を模擬するスピンガラスモデルを提案する。主な貢献は、パラメータ間の含意関係（エンタイルメント関係）をカップルド・イジング・ポッツ系でモデル化することで、低温でも完全なパラメータ整合が実現しないことの解明であり、独立パラメータモデルとは異なり、複雑な平衡ダイナミクスが生じることを示している。

ABSTRACT

Using the SSWL database of syntactic parameters of world languages, and the MIT Media Lab data on language interactions, we construct a spin glass model of language evolution. We treat binary syntactic parameters as spin states, with languages as vertices of a graph, and assigned interaction energies along the edges. We study a rough model of syntax evolution, under the assumption that a strong interaction energy tends to cause parameters to align, as in the case of ferromagnetic materials. We also study how the spin glass model needs to be modified to account for entailment relations between syntactic parameters. This modification leads naturally to a generalization of Potts models with external magnetic field, which consists of a coupling at the vertices of an Ising model and a Potts model with q=3, that have the same edge interactions. We describe the results of simulations of the dynamics of these models, in different temperature and energy regimes. We discuss the linguistic interpretation of the parameters of the physical model.

研究の動機と目的

• 文法的パラメータをスピン変数として用いる統計力学的系として言語進化をモデル化すること。
• Wikipediaにおける双語編集パターンに基づく言語間の相互作用強度が、文法的パラメータの整合性に与える影響を調査すること。
• 文法的パラメータ間の含意関係を組み込むために、イジングモデルとPotts（q=3）モデルを共有エッジで結合した一般化されたスピンガラスモデルを拡張すること。
• 温度および相互作用エネルギーの異なる領域における、モデルのダイナミクスと平衡状態を分析すること。
• 独立パラメータ仮定と含意関係を含むモデルの結果を比較し、収束行動の違いを強調すること。

提案手法

• 各言語をグラフの頂点として表現し、二値の文法的パラメータ（例：S-V語順）をスピン状態（+1 または -1）として扱う。
• Wikipediaにおける共編集頻度に基づき、言語ペア間の相互作用エネルギーを定義し、二語話者の相互作用強度を反映させる。
• スピンの整合を促進するフェロ磁性的相互作用を用いて、系のハミルトニアンを構築する。
• 一つのパラメータの値が他のパラメータに制約を加える含意関係を表現するため、共有エッジを持つ一般化されたイジング・ポッツ（q=3）モデルを統合したモデルを構築する。
• モンテカルロ法を用いて、異なる温度および含意エネルギー領域における系のダイナミクスをシミュレートする。
• 平衡状態およびスピンの平均値を分析し、さまざまな条件下での収束パターンとパラメータの整合性を評価する。

実験結果

リサーチクエスチョン

• RQ1 双語Wikipedia編集データから導出される相互作用強度は、言語進化における文法的パラメータの整合性にどのように影響するか？
• RQ2 文法的パラメータが独立ではなく含意関係にある場合、パラメータの整合性にはどのような影響が生じるか？
• RQ3 カップルド・イジングおよびポッツ成分を有するスピンガラスモデルは、独立パラメータモデルでは観察されない非自明な平衡配置を再現できるか？
• RQ4 含意関係が存在する状況で、温度の変化が文法的パラメータの収束に与える影響は何か？
• RQ5 低温でも、含意関係が存在する場合、文法的パラメータの完全な整合が妨げられる程度はどの程度か？

主な発見

• 独立パラメータモデルでは、低温領域においてパラメータが+1に収束する傾向を示し、強い相互作用下での収束を反映している。
• 含意関係を導入した場合、低温領域でも非整合な平衡状態が観察され、例えば（−1, 0）や（+1, −1）のようなパラメータの組み合わせが生じる。
• 第一の例では、3つの言語と2つの含意関係にあるパラメータを想定した場合、低温・高含意エネルギー領域では（−1, 0）のような平衡状態が得られ、部分的な整合が確認された。
• 第二の例では、英語、ウェールズ語、ロシア語、ブルガリア語を含む4言語の体系において、低温・高含意エネルギー領域で（−1, 0）や（+1, −1）のような持続的非整合状態が観察され、含意関係が完全な収束を妨げることが示された。
• 含意エネルギーの存在により、独立パラメータモデルよりもより複雑な平衡配置が得られ、その結果は含意エネルギーと温度の相対的強度に依存する。
• 低温領域であっても、含意関係が存在する場合、すべてのパラメータの完全な整合が保証されないことが示され、独立パラメータのダイナミクスとは根本的に異なる性質を有することが明らかになった。