[论文解读] The Limits of Phenomenology: From Behaviorism to Drug Testing and Engineering Design

Yaneer Bar‐Yam|arXiv (Cornell University)|Aug 14, 2013

Complex Systems and Decision Making参考文献 8被引用 4

一句话总结

本文运用信息论证明，严格基于经验的现象学方法——如行为主义和双盲药物试验——由于所需观测数目的组合爆炸，对复杂系统而言变得指数级不切实际。其核心贡献是一个形式化的不可能定理，表明理论模型对于表征复杂系统至关重要，因为它们能将描述行为所需的信息量大幅减少，远低于穷尽式经验观察。

ABSTRACT

It is widely believed that theory is useful in physics because it describes simple systems and that strictly empirical phenomenological approaches are necessary for complex biological and social systems. Here we prove based upon an analysis of the information that can be obtained from experimental observations that theory is even more essential in the understanding of complex systems. Implications of this proof revise the general understanding of how we can understand complex systems including the behaviorist approach to human behavior, problems with testing engineered systems, and medical experimentation for evaluating treatments and the FDA approval of medications. Each of these approaches are inherently limited in their ability to characterize real world systems due to the large number of conditions that can affect their behavior. Models are necessary as they can help to characterize behavior without requiring observations for all possible conditions. The testing of models by empirical observations enhances the utility of those observations. For systems for which adequate models have not been developed, or are not practical, the limitations of empirical testing lead to uncertainty in our knowledge and risks in individual, organizational and social policy decisions. These risks should be recognized and inform our decisions.

研究动机与目标

• 证明纯粹基于经验的现象学方法在描述复杂系统方面存在根本性局限，原因在于所需观测数目的指数级增长。
• 确立理论模型不仅是辅助工具，更是理解复杂系统（包括生物系统、社会系统和工程系统）的必要条件。
• 将行为主义、药物测试和工程验证等不同领域统一于单一信息论框架之下，揭示其共同的认知局限性。
• 量化通过完全经验描述所需的信息成本，并表明当输入条件超过少数几个时，该成本将超出实际可行范围。
• 主张若无理论模型，医学、政策和工程中的决策将因知识不完整而承载固有且无法量化的风险。

提出的方法

• 应用信息论，将描述系统行为所需最小信息量建模为输入条件与输出行为的函数。
• 将系统复杂度定义为可能的输入-输出组合数的以2为底的对数，得出公式 $ I_S = 2^{I_C} I_A $，其中 $ I_C $ 为输入复杂度，$ I_A $ 为动作复杂度。
• 使用表格形式表示系统行为：每一行对应一个唯一的输入条件（共 $ 2^{I_C} $ 行），每行用 $ I_A $ 比特描述对应动作。
• 证明完整经验描述所需总信息量随输入复杂度呈指数增长，使其实用于现实世界中的复杂系统变得不可行。
• 引入一种动态演进模型，其中科学探究通过阶段 $ \tau $ 逐步推进，实现对条件与动作的迭代优化。
• 推导出一个推论：系统响应并非独立，这意味着更简洁的理论描述必然存在——这与完全经验独立性的假设相矛盾。

实验结果

研究问题

• RQ1 为何严格基于经验的方法（如行为主义和双盲药物试验）无法扩展至复杂系统？
• RQ2 通过纯粹经验观察描述系统行为的根本信息论极限是什么？
• RQ3 所需观测数目的指数级增长如何制约心理学、医学和工程学中的科学进展？
• RQ4 理论模型能否使描述复杂系统行为的信息负担低于经验表格的水平？
• RQ5 这一信息论极限对政策制定、医疗审批和工程系统验证有何影响？

主要发现

• 通过经验观察完全描述系统行为所需的信息量按 $ I_S = 2^{I_C} I_A $ 增长，随输入复杂度 $ I_C $ 呈指数级增长，使该方法仅对最简单系统可行。
• 对于人类而言，熵（最大信息容量）估计为 $ 10^{31} $ 比特，远低于对句子输入反应进行纯粹经验描述所需的 $ 10^{60} $ 比特，证明更简洁的理论描述必然存在。
• 行为主义和双盲药物测试等经验方法本质上受限，因其自我施加的约束导致信息量指数级增长，使它们对复杂系统不可行。
• 复杂系统的响应并非独立，如推论所示：系统的熵小于完整经验表格所需的信息量，表明依赖关系可降低有效信息负载。
• 若无理论模型，知识始终不完整，医学、政策和工程中的决策将因无法涵盖所有可能条件而承载无法量化的风险。
• 该框架为理解心理学、生物医学和工程学中认知局限性提供了统一的本体论基础，揭示理论与实验必须协同作用，以突破信息论约束。