[论文解读] Semantic Information Measure with Two Types of Probability for Falsification and Confirmation

Cheguang Lu|arXiv (Cornell University)|Sep 26, 2016

Rough Sets and Fuzzy Logic被引用 3

一句话总结

本文提出了一种语义信息度量（SIM），结合逻辑概率（LP）与统计概率（SP），用于量化假设确认与证伪的语义信息。通过将LP用于真值函数评估，SP用于抽样分布建模，SIM为波普尔证伪主义提供了严谨的信息论标准，并计算具有上界限制的确认度（DOC），解决了诸如乌鸦悖论等经典悖论，同时可精确建模快速HIV检测等诊断测试的DOC公式。

ABSTRACT

Logical Probability (LP) is strictly distinguished from Statistical Probability (SP). To measure semantic information or confirm hypotheses, we need to use sampling distribution (conditional SP function) to test or confirm fuzzy truth function (conditional LP function). The Semantic Information Measure (SIM) proposed is compatible with Shannon's information theory and Fisher's likelihood method. It can ensure that the less the LP of a predicate is and the larger the true value of the proposition is, the more information there is. So the SIM can be used as Popper's information criterion for falsification or test. The SIM also allows us to optimize the true-value of counterexamples or degrees of disbelief in a hypothesis to get the optimized degree of belief, i. e. Degree of Confirmation (DOC). To explain confirmation, this paper 1) provides the calculation method of the DOC of universal hypotheses; 2) discusses how to resolve Raven Paradox with new DOC and its increment; 3) derives the DOC of rapid HIV tests: DOC of test-positive=1-(1-specificity)/sensitivity, which is similar to Likelihood Ratio (=sensitivity/(1-specificity)) but has the upper limit 1; 4) discusses negative DOC for excessive affirmations, wrong hypotheses, or lies; and 5) discusses the DOC of general hypotheses with GPS as example.

研究动机与目标

• 开发一种与香农信息论和费歇尔似然原理兼容的语义信息度量。
• 在假设检验中区分用于真值评估的逻辑概率（LP）与用于抽样分布的统计概率（SP）。
• 基于语义信息，提出一个正式的证伪标准，与波普尔对科学的划界原则保持一致。
• 定义并计算普遍性与一般性假设的确认度（DOC），包括反例与错误肯定的情形。
• 通过新DOC及其增量变化，解决经典悖论（如乌鸦悖论）。

提出的方法

• 语义信息度量（SIM）被定义为逻辑概率（LP）与统计概率（SP）的函数，其中LP越低、真值越高，信息量越大。
• 该方法使用条件SP（抽样分布）来评估在假设下观测数据的可能性，同时LP用于评估命题的真值函数。
• 确认度（DOC）被推导为1减去（1 - 特异性）与敏感性的比值，确保DOC ≤ 1。
• 对于普遍性假设，DOC基于反例的最优真值进行计算，以最小化不信任程度。
• 该框架应用于一般性假设，以GPS为案例研究，展示DOC如何随证据演化。
• 该方法对过度肯定、错误假设或谎言赋予负DOC，表示语义信息损失或错误信息。

实验结果

研究问题

• RQ1 如何利用两种不同类型的概率——逻辑概率与统计概率——来测量语义信息，以实现假设确认？
• RQ2 所提出的语义信息度量（SIM）能否作为波普尔意义上的正式证伪标准？
• RQ3 普遍性与一般性假设的确认度（DOC）的数学形式为何？其如何处理反例？
• RQ4 新DOC如何解决乌鸦悖论？DOC增量在证据评估中起什么作用？
• RQ5 快速HIV检测的DOC为何？其与似然比在上下界与可解释性方面有何比较？

主要发现

• SIM提供了一个与香农信息论和费歇尔似然方法兼容的统一框架，实现语义信息的量化。
• 快速HIV检测的DOC为DOC = 1 - (1 - 特异性)/敏感性，其上界为1，与无界似然比不同。
• DOC增量提供了证据增益的度量，通过表明在假设未被高度确认前，观察非黑非乌鸦仅在特定条件下增加DOC，从而解决乌鸦悖论。
• 对过度肯定、错误假设或谎言赋予负DOC，表示语义信息损失或错误信息。
• 对于一般性假设（如GPS系统中的假设），可通过调整反例的真值来优化DOC，从而实现信念程度的精细化。
• SIM通过将低LP与高真值关联至高信息含量，实现了对可证伪性的形式化、量化检验，支持波普尔的科学划界原则。