[论文解读] Entropy and Diversity: The Axiomatic Approach

Tom Leinster|arXiv (Cornell University)|Dec 3, 2020

Philosophy and History of Science参考文献 307被引用 5

一句话总结

本文提出了一套严格的公理化框架，通过函数方程、范畴论和信息论统一了熵与多样性度量。它通过基础公理刻画了香农熵、相对熵以及广义熵（例如，Hill数），确立了其数学结构，并在生态学、统计学和信息科学中得到应用。

ABSTRACT

This book brings new mathematical rigour to the ongoing vigorous debate on how to quantify biological diversity. The question "what is diversity?" has surprising mathematical depth, and breadth too: this book involves parts of mathematics ranging from information theory, functional equations and probability theory to category theory, geometric measure theory and number theory. It applies the power of the axiomatic method to a biological problem of pressing concern, but the new concepts and theorems are also motivated from a purely mathematical perspective. The main narrative thread requires no more than an undergraduate course in analysis. No familiarity with entropy or diversity is assumed.

研究动机与目标

• 通过公理化原则建立熵与多样性的统一数学基础。
• 通过函数方程与信息论公理刻画香农熵与相对熵。
• 利用幂平均与q-对数函数推广熵度量（例如，Rényi熵与Hill熵）。
• 将多样性度量与几何数量及概率方法相联系。
• 探索信息损失与熵不变性背后的范畴与代数结构。

提出的方法

• 使用基本函数方程（例如，Cauchy方程、对数序列）推导熵的公理。
• 应用链式法则与编码理论解释以刻画香农熵。
• 引入q-对数函数与幂平均以定义熵的变形，包括Rényi熵与Hill熵。
• 利用数量理论与相似性矩阵对生态群落中的物种多样性进行建模。
• 运用价值理论与凸对偶性统一相对熵与多样性度量。
• 应用范畴论在范畴框架中形式化熵作为内部代数。

实验结果

研究问题

• RQ1 哪些公理性质能唯一刻画香农熵？
• RQ2 相对熵如何通过公理定义，并与编码和多样性相联系？
• RQ3 在何种条件下，特定阶数的Hill数能被唯一确定为多样性度量？
• RQ4 广义熵（例如，Rényi熵、q-对数函数）如何与幂平均及多样性谱相关联？
• RQ5 熵与信息损失的范畴与代数根源是什么？

主要发现

• 香农熵由链式法则、连续性与对称性唯一刻画，确认其在信息论中的基础性作用。
• 相对熵完全由其在保测度映射下的性质及其在编码与散度最小化中的角色所刻画。
• q阶Hill数由其在相似性变换下的不变性以及在群落复制与合并下的行为唯一确定。
• 价值函数作为熵的推广，为不同阶数下的多样性与相对熵提供了统一刻画。
• 模素数的熵通过Fermat商刻画，将有限域中的离散熵与连续熵相联系。
• 范畴框架表明，熵自然地作为有限概率空间范畴中的内部代数出现。