[論文レビュー] Understanding Zipf's law with playing dice: history-dependent stochastic processes with collapsing sample-space have power-law rank distributions

Bernat Corominas‐Murtra, Rudolf Hanel+1 more|arXiv (Cornell University)|Jul 10, 2014

Opinion Dynamics and Social Influence被引用数 3

ひとこと要約

本論文は、縮小する標本空間を伴う歴史依存確率過程（SSR過程）が、結果のランク分布において自然にZipfの法則を生成することを提案する。ノイズをSSR過程に導入することで、指数λの正確なべき乗則スケーリングが得られ、λは標本空間の縮小度を直接反映する。これは、優先的付加や自己組織的臨界性に依存せずに、複雑系におけるスケーリングの機構的説明を提供する。

ABSTRACT

History-dependent processes are ubiquitous in natural and social systems. Many such stochastic processes, especially those that are associated with complex systems, become more constrained as they unfold, meaning that their sample-space, or their set of possible outcomes, reduces as they age. We demonstrate that these sample-space reducing (SSR) processes necessarily lead to Zipf's law in the rank distributions of their outcomes. We show that by adding noise to SSR processes the corresponding rank distributions remain exact power-laws, $p(x)\sim x^{-\lambda}$, where the exponent directly corresponds to the mixing ratio of the SSR process and noise. This allows us to give a precise meaning to the scaling exponent in terms of the degree to how much a given process reduces its sample-space as it unfolds. Noisy SSR processes further allow us to explain a wide range of scaling exponents in frequency distributions ranging from $\alpha = 2$ to $\infty$. We discuss several applications showing how SSR processes can be used to understand Zipf's law in word frequencies, and how they are related to diffusion processes in directed networks, or ageing processes such as in fragmentation processes. SSR processes provide a new alternative to understand the origin of scaling in complex systems without the recourse to multiplicative, preferential, or self-organised critical processes.

研究の動機と目的

• 複雑系におけるべき乗則ランク分布（例：Zipfの法則）の起源を、乗法的または優先的プロセスに依存せずに説明すること。
• 時間とともに縮小する標本空間を伴う歴史依存確率過程（SSR過程）が、本質的にべき乗則ランク分布を生成することを示すこと。
• ノイズをSSR過程に加えることで、正確なべき乗則スケーリングがどのように保持され、スケーリング指数λが制御されるかを調査すること。
• スケーリング指数λと、プロセスの進化過程における標本空間縮小度との間の定量的関係を確立すること。
• SSRフレームワークを、語彙頻度、ネットワーク内拡散、破壊過程といった現実世界の現象に応用すること。

提案手法

• 可能な結果（標本空間）の集合が時間とともに減少する確率過程をモデル化し、歴史依存的SSR過程を定義する。
• SSR過程から得られる結果の正確なランク分布を導出し、それがべき乗則 p(x) ∼ x−λ に従うことを示す。
• ランダムな間隔で標本空間を確率的に再生成または拡張するノイズ成分を導入し、ノイズを含むSSR過程を構築する。
• ノイズを含むSSR過程における結果のランク分布を解析的に導出し、それがスケーリング指数λに依存するべき乗則の形を保つことを証明する。
• ノイズとSSRダイナミクスの混合比を用いてスケーリング指数λを制御し、λを2から∞の連続的な範囲に設定可能とする。
• 語彙頻度やネットワーク拡散といった実データにモデルを適用し、フレームワークの説明力の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 標本空間縮小過程のみで、ランク分布におけるZipfの法則を生成できるか？
• RQ2 ノイズの導入がSSR過程におけるべき乗則スケーリングに与える影響は何か？
• RQ3 SSR過程におけるスケーリング指数λと標本空間縮小度との間の定量的関係は何か？
• RQ4 SSRフレームワークは、現実世界の頻度分布における広範な観察されたスケーリング指数を説明できるか？
• RQ5 SSR過程は、語彙頻度分布や有向ネットワーク内の拡散といった既知の現象とどのように関係するか？

主な発見

• SSR過程のみで、p(x) ∼ x−λ に従う正確なべき乗則ランク分布が生成され、λは標本空間縮小の速度に依存する。
• ノイズをSSR過程に加えることで、正確なべき乗則形が保持され、指数λはノイズとSSRダイナミクスの混合比によって直接制御される。
• 本フレームワークは、λ = 2 から λ = ∞ の範囲にわたりスケーリング指数をカバーし、広範な実証的観察を説明可能である。
• 言語生成における利用可能な語の逐次的縮小をモデル化することで、語彙頻度におけるZipfの法則の機構的説明が提供される。
• SSR過程が有向ネットワーク上の拡散過程と等価であることが示され、ランク分布とネットワーク構造・ダイナミクスの間の関連が明確化される。
• 本フレームワークは、優先的付加や自己組織的臨界性の仮定を避ける、複雑系におけるスケーリングを説明する新たな非乗法的代替手法を提供する。