[论文解读] On the Compatibility Between Physics and Intelligent Organisms

John C. Collins|ArXiv.org|Feb 9, 2001

Computational Physics and Python Applications参考文献 1被引用 3

一句话总结

本文挑战罗杰·彭罗斯关于人类数学直觉超越计算极限的主张，认为其利用图灵停机定理否定人工智能的论点基于一个错误假设：即交互式智能系统可被简化为非交互式图灵机而不损失其本质行为。作者证明，在模拟智能生物时，停机定理所要求的精确输入-输出对应关系无法保持，从而使得彭罗斯得出‘意识或人工智能需要新物理理论’的结论无效。

ABSTRACT

It has been commonly argued, on the basis of Goedel's theorem and related mathematical results, that true artificial intelligence cannot exist. Penrose has further deduced from the existence of human intelligence that fundamental changes in physical theories are needed. I provide an elementary demonstration that these deductions are mistaken.

研究动机与目标

• 反驳罗杰·彭罗斯关于人类数学直觉非计算性的论断，即其需要新物理理论解释。
• 探讨核心假设：交互式智能程序可被转换为非交互式图灵机以应用停机定理。
• 证明将交互式系统转换为非交互式形式必然破坏停机定理适用所必需的精确对应关系。
• 表明彭罗斯关于真正人工智能不可能存在且需非计算性物理理论的结论在逻辑上无效。
• 阐明理想化图灵机与现实世界交互式软件之间的区别，强调现实智能在形式计算模型之外的稳健性。

提出的方法

• 分析彭罗斯的论点：人类数学家可证明自指程序的停机性，而计算系统则不能。
• 指出其错误在于假设交互式计算机程序（如智能体）可被简化为非交互式图灵机而不改变其行为。
• 证明构建交互式程序的非交互式版本需要预先知晓该程序将提出的所有问题。
• 论证这种预知不可能实现，因为问题取决于程序的动态、环境依赖行为。
• 通过一个思想实验，模拟数学家与录音回答装置，表明当输入因录音过程被改变时，定理的条件被违反。
• 确立停机定理的证明依赖于证明子程序与被证明对象之间的完全同一性，而这种同一性在真实模拟中无法保持。

实验结果

研究问题

• RQ1 交互式、智能的计算机程序能否在不损失计算内容的前提下被简化为非交互式图灵机？
• RQ2 当应用于模拟智能生物时，图灵停机定理的应用是否有效？
• RQ3 停机定理要求的完美输入-输出对应关系是否阻止了人工系统中类人数学推理的模拟？
• RQ4 真实智能程序的行为能否通过静态、非交互式子程序完整捕捉，以用于类似停机问题的逻辑定理？
• RQ5 彭罗斯认为意识需要新物理理论的论断，是否基于可计算性理论的误用？

主要发现

• 停机定理所要求的将交互式智能程序转换为非交互式形式的过程，无法保持定理有效性所必需的精确输入-输出行为。
• 预先记录智能程序将提出的所有可能问题的要求无法实现，因为问题取决于动态、不可预测的交互。
• 任何试图将人类数学家模拟为非交互式系统的行为都会改变系统行为，破坏停机定理证明所必需的同一性。
• 停机定理的结论——即机器无法证明自身非停机行为——不适用于交互式系统，因为它们与定理中抽象的图灵机不等价。
• 彭罗斯推断人类智能非计算性且因此需要新物理理论的结论无效，因其基于对交互式系统与形式计算关系的误解。
• 本文结论认为，现有物理理论已足以对意识提供还原论解释，真正的人工智能在现有计算框架内仍属可能。