[论文解读] Symbolic Calculus in Mathematical Statistics: A Review

Elvira Di Nardo|arXiv (Cornell University)|Dec 28, 2015

Stochastic processes and statistical mechanics参考文献 43被引用 7

一句话总结

本文回顧了由Rota和Taylor提出的、根植於經典 umbra 算術的符號演算框架，該框架在數理統計中實現了代數統一與演算法計算。透過符號 umbra 表示矩、累積量與隨機過程，該方法揭示了機率論、統計推斷與特殊函數之間的深刻結構聯繫，並透過基於 Bell 多項式與 Sheffer 序列的演算法程序，實現了矩、累積量與多變量多項式的高效符號計算。

ABSTRACT

In the last ten years, the employment of symbolic methods has substantially extended both the theory and the applications of statistics and probability. This survey reviews the development of a symbolic technique arising from classical umbral calculus, as introduced by Rota and Taylor in $1994.$ The usefulness of this symbolic technique is twofold. The first is to show how new algebraic identities drive in discovering insights among topics apparently very far from each other and related to probability and statistics. One of the main tools is a formal generalization of the convolution of identical probability distributions, which allows us to employ compound Poisson random variables in various topics that are only somewhat interrelated. Having got a different and deeper viewpoint, the second goal is to show how to set up algorithmic processes performing efficiently algebraic calculations. In particular, the challenge of finding these symbolic procedures should lead to a new method, and it poses new problems involving both computational and conceptual issues. Evidence of efficiency in applying this symbolic method will be shown within statistical inference, parameter estimation, Lévy processes, and, more generally, problems involving multivariate functions. The symbolic representation of Sheffer polynomial sequences allows us to carry out a unifying theory of classical, Boolean and free cumulants. Recent connections within random matrices have extended the applications of the symbolic method.

研究动机与目标

• 透過符號代數框架統一看似不同的機率與統計領域，例如經典、布林與自由累積量。
• 發展演算法程序，以高效進行符號計算統計量，如 k-統計量、多 k-統計量與累積量。
• 將符號方法擴展至多變量設定，包括多變量 Lévy 過程與 Hermite/Bernoulli 多項式。
• 透過矩與累積量轉換的基準測試，展示該方法的計算效率。
• 為與複合泊松過程及 Lévy 過程相關的時間-空間調和多項式提供系統性的代數基礎。

提出的方法

• 符號方法使用 umbra 表示矩序列，其中單位序列透過類期望算子 ℰ 映射至符號變數 α 的冪次。
• 利用 Sheffer 多項式序列，透過共同的符號表示統一經典、布林與自由累積量。
• 透過輔助 umbra 建模複合泊松過程，實現對伽馬、帕斯卡與布朗運動等過程的時間-空間調和多項式的符號推導。
• 應用廣義 Bell 多項式與 Lagrange 反演公式，推導出由矩表示累積量、或由累積量表示矩的封閉表達式。
• 將多變量 Faà di Bruno 公式符號化，以計算 Lévy 過程與 Hermite/Bernoulli 系列的多變量累積量與多項式。
• 透過符號計算實現演算法程序，性能以附錄中的計時表格評估。

实验结果

研究问题

• RQ1 符號 umbra 算術如何在單一代數框架中統一經典、布林與自由累積量？
• RQ2 符號方法在何種程度上提升了統計計算的效率與準確性，特別是針對矩與累積量？
• RQ3 如何利用符號 umbra 系統推導各種 Lévy 過程的時間-空間調和多項式？
• RQ4 Sheffer 序列與廣義 Bell 多項式在實現多變量統計函數符號計算中扮演何種角色？
• RQ5 符號計算在多大程度上可取代統計推斷中的數值方法，特別是在參數估計與 Edgeworth 展開中？

主要发现

• 符號方法提供了一個統一框架，透過 Sheffer 多項式序列揭示了經典、布林與自由累積量之間深刻的代數關聯。
• 透過符號 umbra 明確推導出伽馬、帕斯卡與伯努利過程的時間-空間調和多項式，例如伽馬過程的 t.ū 與隨機漫步的 n.(-1.ι)。
• 該方法實現了由矩計算累積量、或由累積量計算矩的高效演算法計算，其中第 6.2.3 節詳述了一種使用 Abel 類累積量與 Bell 多項式的特定演算法。
• 附錄 1 的計算基準顯示，與傳統方法相比，符號計算 k-統計量與多 k-統計量的效率顯著提升。
• 透過多變量 Faà di Bruno 公式對多變量 Lévy 過程的符號表示，實現了多變量 Hermite 與 Bernoulli 多項式的系統性推導。
• 符號演算框架已延伸至隨機矩陣，顯示其應用範圍遠超傳統統計模型。