[论文解读] The Artificial Scientist: Logicist, Emergentist, and Universalist Approaches to Artificial General Intelligence

Michael Timothy Bennett, Yoshihiro Maruyama|arXiv (Cornell University)|Oct 5, 2021

Computability, Logic, AI Algorithms参考文献 15被引用 7

一句话总结

本文通过综合逻辑主义、涌现主义和普遍主义的通用人工智能（AGI）方法，定义了人工科学家的必要条件——即能够自主开展科学研究并获得诺贝尔奖的智能体。文章主张，必须整合归纳、演绎、溯因、因果和具身推理，并实现自适应符号涌现，才能实现稳健的假设生成、实验设计以及可解释的科学发现。

ABSTRACT

We attempt to define what is necessary to construct an Artificial Scientist, explore and evaluate several approaches to artificial general intelligence (AGI) which may facilitate this, conclude that a unified or hybrid approach is necessary and explore two theories that satisfy this requirement to some degree.

研究动机与目标

• 阐明使人工智能体具备独立开展诺贝尔级科学研究资格的最小认知能力集合。
• 评估现有通用人工智能范式——逻辑主义、涌现主义和普遍主义——在科学发现需求下的表现，特别是假设生成、实验设计与解释能力。
• 论证单一通用人工智能范式不足以满足要求；必须采用统一或混合框架，以覆盖科学探究的全部范畴。
• 提出符号涌现必须基于任务相关目标和环境交互，而非仅依赖感官输入或预设符号集。
• 通过理论分析与示例任务证明，仅靠观测数据不足以发现同时存在且相互排斥的规则，必须依赖假设溯因与实验验证。

提出的方法

• 通过核心科学能力定义人工科学家：假设表征、归纳推理、演绎与溯因推理、因果推理及实验规划。
• 整合具身认知理论，将实验视为具身化、与环境互动的过程，从而将认知扩展至智能体之外。
• 提出一种混合架构，结合逻辑主义形式化方法（如用于符号推理的感知引擎）、涌现主义方法（如符号的神经基础化）以及普遍主义原则（如奥卡姆剃刀用于假设选择）。
• 运用思想实验对比纯归纳系统（如感知引擎）与需要假设溯因和实验验证的系统的局限性。
• 引入“内涵式”解决方案与“外延式”解决方案的对比，前者通过抽象规则实现跨情境泛化，后者依赖机械记忆。
• 应用风险感知效用建模（如几何平均优于算术平均）来基于预期效用、资源约束与生存约束优先安排实验。

实验结果

研究问题

• RQ1 哪些认知与推理能力是人工智能体要成为能够独立开展诺贝尔级科学发现的人工科学家所绝对必要的？
• RQ2 逻辑主义、涌现主义与普遍主义的通用人工智能方法在支持科学推理、假设生成与实验设计方面的能力有何差异？
• RQ3 为何仅靠观测数据不足以发现任务中同时存在且相互排斥的规则？假设溯因为何至关重要？
• RQ4 如何使符号系统在通用人工智能体中实现有意义的涌现，使其不具任意性，而与任务相关性及目标导向行为相联系？
• RQ5 需要何种机制来确保科学假设不仅可证伪，而且具有合理性、价值性，并能向人类受众清晰解释？

主要发现

• 人工科学家必须整合归纳、演绎、溯因、因果与具身推理，方能实现自主科学探究。
• 纯归纳系统（如感知引擎）在多个并发规则支配任务时会失效，因其无法在无实验验证的前提下区分相互排斥的假设。
• 内涵式解决方案——即抽象、基于规则且可泛化的方案——在数据效率与科学有效性方面优于外延式解决方案（机械记忆），但必须依赖假设溯因。
• 假设选择必须由权衡合理性与预期效用的启发式方法引导，而不仅依赖真值判断，以确保在假设空间中高效搜索。
• 符号涌现必须基于任务相关目标与环境交互，而非仅依赖感官输入，以确保其意义与可解释性。
• 实验设计必须纳入风险规避与机会成本考量，优先采用如几何平均等效用模型，以保障长期能力与生存能力。