[论文解读] Towards the full information chain theory: question difficulty

Eugene Perevalov, David Grace|arXiv (Cornell University)|Dec 12, 2012

Advanced Algebra and Logic参考文献 6被引用 3

一句话总结

本文提出了一套定量框架，用于衡量信息获取过程中问题的难度，将其建模为参数空间上类似温度的标量场的函数。通过公理化假设，推导出一个与热力学中的热能相类似的难度泛函，各向同性假设导致一个单一标量函数控制所有问题的准确率期望。

ABSTRACT

A general problem of optimal information acquisition for its use in decision making problems is considered. This motivates the need for developing quantitative measures of information sources' capabilities for supplying accurate information depending on the particular content of the latter. In this article, the notion of a real valued difficulty functional for questions identified with partitions of problem parameter space is introduced and the overall form of this functional is derived that satisfies a particular system of reasonable postulates. It is found that, in an isotropic case, the resulting difficulty functional depends on a single scalar function on the parameter space that can be interpreted -- using parallels with classical thermodynamics -- as a temperature-like quantity, with the question difficulty itself playing the role of thermal energy. Quantitative relationships between difficulty functionals of different questions are also explored.

研究动机与目标

• 开发一种定量的问题难度度量，以反映信息源回答特定问题时的准确性。
• 建模信息源提供准确答案的能力如何依赖于问题的内容与结构。
• 建立一个与信息论和物理类比一致的正式、公理化的难度体系。
• 通过形式化信息链的第一环——信息获取——为完整的信息链理论奠定基础。
• 通过表征问题复杂度与源知识结构所决定的预期答案准确率，实现最优信息获取策略。

提出的方法

• 将问题难度形式化为问题参数空间划分上的实值泛函。
• 应用一组公理，表达合理的性质，如线性性、各向同性和复合下的一致性。
• 在各向同性假设下推导难度泛函的一般形式，表明其依赖于参数空间上的单一标量函数。
• 与热力学类比，将该标量函数解释为类似温度的场，难度则类比为热能。
• 利用对称性与一致性约束来限制泛函形式，从而唯一确定解（至多相差常数）。
• 探讨了通过秩-2张量将模型推广至各向异性源的可能性，尽管此工作留待未来研究。

实验结果

研究问题

• RQ1 如何正式定义问题难度为一种定量度量，以反映信息源的预期准确率？
• RQ2 哪些公理约束是推导出一致且有意义的难度泛函的必要且充分条件？
• RQ3 源知识结构的各向同性如何影响难度泛函的形式？
• RQ4 难度泛函在经典热力学类比下应如何解释？
• RQ5 该模型如何扩展以处理信息源中的方向性或各向异性知识结构？

主要发现

• 在各向同性假设下，问题难度泛函由一组公理唯一确定，其形式为参数空间上的标量函数。
• 所得泛函在行为上类似于热力学中的热能，其中标量函数起着类似温度场的作用。
• 难度泛函依赖于参数空间子集的概率以及源知识的几何结构。
• 在各向同性情况下，泛函完全由单一标量函数表征，从而简化了信息源能力的建模。
• 该框架表明，香农熵衡量的是完美答案的最小通信成本，而问题难度则衡量信息获取的预期准确率成本。
• 初步结果表明，各向异性源需要使用秩-2张量来描述知识结构，暗示其泛函形式超越了标量情形的复杂性。