[论文解读] Characterizations and Kullback-Leibler Divergence of Gompertz Distributions

Christian Bauckhage|arXiv (Cornell University)|Feb 13, 2014

Innovation Diffusion and Forecasting参考文献 15被引用 3

一句话总结

本文将 Gompertz 分布表征为零截断的 Gumbel 最小值分布，并建立了其与极值分布（Fréchet 和 Weibull）的联系。推导出两个 Gompertz 分布之间 Kullback-Leibler 散度的闭式表达式，从而在生存分析、收入建模和社会媒体关注度动态等应用中实现高效的模型选择与统计推断。

ABSTRACT

In this note, we characterize the Gompertz distribution in terms of extreme value distributions and point out that it implicitly models the interplay of two antagonistic growth processes. In addition, we derive a closed form expressions for the Kullback-Leibler divergence between two Gompertz Distributions. Although the latter is rather easy to obtain, it seems not to have been widely reported before.

研究动机与目标

• 将 Gompertz 分布用极值分布（特别是零截断的 Gumbel 最小值分布）进行表征。
• 将 Gompertz 分布解释为两种对抗性增长过程相互作用的结果，提供物理解释与生物学依据。
• 推导出两个 Gompertz 分布之间 Kullback-Leibler 散度的闭式表达式，该结果在文献中尚未广泛报道。
• 通过提供一个解析可处理的散度度量，支持人口统计学、精算科学、市场营销和社会媒体分析等领域的模型选择与统计推断。

提出的方法

• 重新表达 Gumbel 分布的概率密度函数（pdf），使用参数 $ b $ 和 $ q $，表明在零左侧截断后，其与 Gompertz pdf 等价。
• 证明 Gompertz 分布源于 Fréchet 和 Weibull 分布的负对数变换，从而确立其与极值分布 II 型和 III 型的联系。
• 使用变量替换技术与概率密度变换规则，通过 $ y = -\ln x $ 和 $ y = \ln x $ 分别从 Fréchet 和 Weibull 分布推导出 Gompertz pdf。
• 应用两个 Gompertz 密度 $ f_1(x|b_1,q_1) $ 和 $ f_2(x|b_2,q_2) $ 之间 Kullback-Leibler（KL）散度的定义，将积分分解为四个部分。
• 通过代换 $ y = e^{b_1 x} $、标准积分表（Gradshteyn 和 Ryzhik）以及特殊函数（指数积分 $ \operatorname{Ei}(-q_1) $ 和上不完全伽马函数 $ \Gamma(s,x) $）来评估每一部分。
• 通过整合四个积分计算的结果，得出最终的闭式表达式，从而获得 KL 散度的完整解析表达式。

实验结果

研究问题

• RQ1 Gompertz 分布与三种极值分布（Gumbel、Fréchet、Weibull）之间有何关系？
• RQ2 从竞争性增长过程的角度，Gompertz 分布的物理解释或生物学意义是什么？
• RQ3 能否从理论上推导出两个 Gompertz 分布之间 KL 散度的闭式表达式？
• RQ4 该 KL 散度表达式如何用于改进现实世界应用中的模型选择或统计推断？

主要发现

• Gompertz 分布在数学上等价于零截断的 Gumbel 最小值分布，为极值理论提供了直接联系。
• Gompertz 分布可通过取 Fréchet 和 Weibull 分布的对数或负对数变换导出，证实其在极值框架中的角色。
• 两个 Gompertz 分布之间的 KL 散度由一个闭式表达式给出，涉及指数积分 $ \operatorname{Ei}(-q_1) $ 和上不完全伽马函数 $ \Gamma\left(\frac{b_2}{b_1}+1, q_1\right) $，这是一个新颖且非平凡的结果。
• 推导出的 KL 散度表达式为：$ \ln\frac{e^{q_1}b_1q_1}{e^{q_2}b_2q_2} + e^{q_1}\left[\left(\frac{b_2}{b_1}-1\right)\operatorname{Ei}(-q_1) + \frac{q_2}{q_1^{b_2/b_1}}\Gamma\left(\frac{b_2}{b_1}+1,q_1\right)\right] - (q_1 + 1) $，可实现精确的统计比较。
• Gompertz 分布可建模对抗性增长动力学，其累积分布函数反映了加速与减速过程之间的平衡，例如在死亡率或关注度衰减中的表现。
• 所推导的 KL 散度在统计推断、模型选择以及收入分布建模、客户生命周期价值预测和病毒式内容动态比较等应用中具有重要实用价值。