[論文レビュー] Approximation of the truncated Zeta distribution and Zipf's law

Maurizio Naldi|arXiv (Cornell University)|Nov 4, 2015

Statistical Distribution Estimation and Applications参考文献 4被引用数 5

ひとこと要約

本稿では、Zipfの法則に根ざす切断Zeta分布のための3つの閉形式近似（積分、平均積分、台形）を提案する。正規化定数内の和を積分および数値積分に置き換えることで、台形近似は典型的なZipfパラメータにおいて相対誤差が1%未満、最良では0.1%にまで低下し、閉形式式が存在しない場合の計算を効率的に可能にする。

ABSTRACT

Zipf's law appears in many application areas but does not have a closed form expression, which may make its use cumbersome. Since it coincides with the truncated version of the Zeta distribution, in this paper we propose three approximate closed form expressions for the truncated Zeta distribution, which may be employed for Zipf's law as well. The three approximations are based on the replacement of the sum occurring in Zipf's law with an integral, and are named respectively the integral approximation, the average integral approximation, and the trapezoidal approximation. While the first one is shown to be of little use, the trapezoidal approximation exhibits an error which is typically lower than 1\%, but is as low as 0.1\% for the range of values of the Zipf parameter below 1.

研究の動機と目的

• 切断Zeta分布の閉形式式の欠如が、Zipfの法則の実用的応用を制限しているという問題に対処すること。
• 切断Zeta分布の正規化定数のための正確で計算が高速な近似を構築すること。
• Zipfパラメータαと種の数nの変化に応じた、積分に基づく近似の精度を評価すること。
• 実世界の応用においてZeta分布が使用される状況で、最も正確な近似手法を特定すること。

提案手法

• 切断Zeta分布の正規化定数内の和を積分で近似し、積分近似を導出する。
• 1からnまでの積分と2からn+1までの積分の平均をとることで、積分近似を改善し、平均積分近似を導出する。
• 離散区間におけるx^(-α)の積分を台形則で近似し、境界効果を補正する項を組み込む。
• 台形近似を正規化定数に代入することで、確率質量関数の閉形式式を導出する。
• 近似確率と正確な確率の相対誤差を、精度評価の主な指標として用いる。
• Zipfパラメータαと種の数nの異なる値に対して近似をテストし、頑健性と精度を評価する。

実験結果

リサーチクエスチョン

• RQ1 積分に基づく手法を用いて、切断Zeta分布の正規化定数をどの程度正確に近似できるか？
• RQ2 提案された3つの近似法（積分、平均積分、台形）の中で、典型的なZipfパラメータ値において最も低い相対誤差を達成するのはどれか？
• RQ3 各近似の誤差は、種の数nとZipfパラメータαの変化にどのように応じて変化するか？
• RQ4 台形則近似は、特にα < 1の実用的値において、1%未満の相対誤差を達成できるか？

主な発見

• 積分近似は性能が低く、小さなα値に対しても相対誤差が10%を超えることがあり、大多数の応用には不適切である。
• 平均積分近似は、α = 2に対しても相対誤差を10%未満にまで低下させ、基本的な積分法よりも精度が向上している。
• 台形近似は、典型的なZipfパラメータ値において相対誤差が1%未満となり、α < 1では誤差が0.1%にまで低下する。
• 台形近似の誤差は、種の数nが増加するにつれて減少し、大規模システムにおいてより優れた性能を示す。
• すべての近似の相対誤差はランクrに依存せず、すべてのランクで一様な精度を示す。
• 台形法は最も正確で、言語学、経済学、Webトラフィックモデリングなどの実世界のZipfの法則応用において実用的である。