[论文解读] Approximation of the truncated Zeta distribution and Zipf's law

Maurizio Naldi|arXiv (Cornell University)|Nov 4, 2015

Statistical Distribution Estimation and Applications参考文献 4被引用 5

一句话总结

本文提出了三种针对截断Zeta分布的闭式近似方法——积分法、平均积分法和梯形法，该分布是Zipf定律的基础。通过用积分和数值求积替代归一化常数中的求和，梯形法近似在典型Zipf参数下相对误差低于1%，最低可达0.1%，实现了无需闭式表达式的高效计算。

ABSTRACT

Zipf's law appears in many application areas but does not have a closed form expression, which may make its use cumbersome. Since it coincides with the truncated version of the Zeta distribution, in this paper we propose three approximate closed form expressions for the truncated Zeta distribution, which may be employed for Zipf's law as well. The three approximations are based on the replacement of the sum occurring in Zipf's law with an integral, and are named respectively the integral approximation, the average integral approximation, and the trapezoidal approximation. While the first one is shown to be of little use, the trapezoidal approximation exhibits an error which is typically lower than 1\%, but is as low as 0.1\% for the range of values of the Zipf parameter below 1.

研究动机与目标

• 为解决截断Zeta分布缺乏闭式表达式的问题，该问题限制了其在建模Zipf定律时的实际应用。
• 开发针对截断Zeta分布归一化常数的高精度、计算高效的近似方法。
• 评估基于积分的近似方法在不同Zipf参数α和物种数量n下的准确性。
• 识别在Zeta分布实际应用中表现最优的近似方法。

提出的方法

• 通过积分近似截断Zeta分布归一化常数中的求和，得到积分近似法。
• 通过将从1到n的积分与从2到n+1的积分取平均，改进积分近似法，得到平均积分近似法。
• 应用梯形法则对x^(-α)在离散区间上的积分进行近似，并引入边界效应的校正项。
• 通过将梯形近似代入归一化常数，推导出概率质量函数的闭式表达式。
• 以近似概率与精确概率之间的相对误差作为主要准确性评估指标。
• 在不同Zipf参数α和物种数量n下测试近似方法，以评估其鲁棒性和准确性。

实验结果

研究问题

• RQ1 基于积分的方法能否对截断Zeta分布的归一化常数实现高精度近似？
• RQ2 在典型Zipf参数值下，三种提出的近似方法——积分法、平均积分法和梯形法——哪一种能产生最低的相对误差？
• RQ3 每种近似方法的误差如何随物种数量n和Zipf参数α的变化而变化？
• RQ4 梯形法则近似能否在α的实际取值范围内（特别是α < 1时）实现低于1%的相对误差？

主要发现

• 积分近似表现较差，即使在α值较小时，相对误差也超过10%，不适用于大多数应用场景。
• 平均积分近似将相对误差降低至10%以下，即使在α = 2时也表现出优于基础积分法的准确性。
• 梯形近似在典型Zipf参数值下相对误差低于1%，当α < 1时误差可低至0.1%。
• 梯形近似的误差随物种数量n的增加而减小，表明在大规模系统中性能更优。
• 所有近似方法的相对误差与排名r无关，意味着其准确性在所有排名上保持一致。
• 梯形法是最准确且适用于语言学、经济学和网络流量建模等Zipf定律实际应用的实用方法。