[论文解读] Information vs. Uncertainty as the Foundation for a Science of Environmental Modeling

Grey Nearing, Hoshin V. Gupta|arXiv (Cornell University)|Apr 25, 2017

Hydrological Forecasting Using AI参考文献 35被引用 4

一句话总结

本文主张以信息论取代不确定性量化作为环境建模的理论基础，提出应从评估模型不确定性转向评估数据是否包含可行动的信息以改进模型。通过围绕信息增益构建假设检验，该方法解决了经典与贝叶斯检验中的不一致性，实现了过程层面的诊断，并为环境科学中的实证学习建立了严谨的逻辑。

ABSTRACT

Information accounting provides a better foundation for hypothesis testing than does uncertainty quantification. A quantitative account of science is derived under this perspective that alleviates the need for epistemic bridge principles, solves the problem of ad hoc falsification criteria, and deals with verisimilitude by facilitating a general approach to process-level diagnostics. Our argument is that the well-known inconsistencies of both Bayesian and classical statistical hypothesis tests are due to the fact that probability theory is an insufficient logic of science. Information theory, as an extension of probability theory, is required to provide a complete logic on which to base quantitative theories of empirical learning. The organizing question in this case becomes not whether our theories or models are more or less true, or about how much uncertainty is associated with a particular model, but instead whether there is any information available from experimental data that might allow us to improve the model. This becomes a formal hypothesis test, provides a theory of model diagnostics, and suggests a new approach to building dynamical systems models.

研究动机与目标

• 解决环境建模中经典与贝叶斯假设检验的根本不一致性。
• 以信息核算取代不确定性量化，作为模型评估的基础。
• 建立基于信息论的科学逻辑，支持实证学习与模型改进。
• 消除模型诊断中对临时性 falsification criteria 和认识论桥梁原则的依赖。
• 通过数据中的信息含量，实现一种通用的、面向过程的模型性能评估方法。

提出的方法

• 提出信息论作为概率论的延伸，以形成科学推理的完整逻辑体系。
• 将模型评估重新定义为一个正式假设检验，即检验数据是否包含可改进模型的信息。
• 使用信息论度量（如互信息）量化数据对模型精炼的相关性。
• 提出一种基于模型各组成部分信息增益的诊断框架，以评估过程层面的准确性。
• 以信息为基础的诊断替代基于不确定性的度量，以评估模型的学习潜力。
• 将该框架应用于动力系统建模，强调通过数据实现模型的迭代改进。

实验结果

研究问题

• RQ1 如何在不依赖不确定性量化的情况下，使环境建模中的假设检验更加一致且严谨？
• RQ2 信息论在解决传统统计检验中的认识论与逻辑不一致性方面发挥何种作用？
• RQ3 是否可以不依据模型的不确定性，而依据其是否从数据中学习来评估模型？
• RQ4 如何利用信息度量将过程层面的诊断方法推广至各类环境模型？
• RQ5 一种以信息增益而非真理或不确定性为优先的环境建模科学，其理论基础是什么？

主要发现

• 信息核算比不确定性量化提供了更连贯的假设检验基础。
• 该方法通过将模型评估建立在信息增益之上，消除了对临时性 falsification criteria 的需求。
• 在基于信息的框架下，通常用于连接模型与观测值的认识论桥梁原则不再必要。
• 通过信息论支持的通用过程级诊断方法，实现了对真实性（verisimilitude）的处理。
• 当仅基于概率论时，经典与贝叶斯假设检验被证明在逻辑上存在不一致性。
• 当信息论扩展概率论时，环境建模的完整科学逻辑体系得以形成。