[论文解读] On scientific understanding with artificial intelligence

Mario Krenn, Robert Pollice+10 more|arXiv (Cornell University)|Apr 4, 2022

Scientific Computing and Data Management被引用 13

一句话总结

本文提出了一套人工智能框架，使其能够通过充当计算显微镜、灵感来源，最终成为自主的理解代理，实现科学理解。该研究引入了‘科学理解测试’——一种类图灵测试的基准——以评估人工智能是否能以传递真实洞见的方式向人类解释科学概念。

ABSTRACT

Imagine an oracle that correctly predicts the outcome of every particle physics experiment, the products of every chemical reaction, or the function of every protein. Such an oracle would revolutionize science and technology as we know them. However, as scientists, we would not be satisfied with the oracle itself. We want more. We want to comprehend how the oracle conceived these predictions. This feat, denoted as scientific understanding, has frequently been recognized as the essential aim of science. Now, the ever-growing power of computers and artificial intelligence poses one ultimate question: How can advanced artificial systems contribute to scientific understanding or achieve it autonomously? We are convinced that this is not a mere technical question but lies at the core of science. Therefore, here we set out to answer where we are and where we can go from here. We first seek advice from the philosophy of science to understand scientific understanding. Then we review the current state of the art, both from literature and by collecting dozens of anecdotes from scientists about how they acquired new conceptual understanding with the help of computers. Those combined insights help us to define three dimensions of android-assisted scientific understanding: The android as a I) computational microscope, II) resource of inspiration and the ultimate, not yet existent III) agent of understanding. For each dimension, we explain new avenues to push beyond the status quo and unleash the full power of artificial intelligence's contribution to the central aim of science. We hope our perspective inspires and focuses research towards androids that get new scientific understanding and ultimately bring us closer to true artificial scientists.

研究动机与目标

• 定义高级人工智能系统如何超越单纯预测，实现概念性洞察，从而为科学理解做出贡献。
• 解决哲学与实践层面的挑战：判断人工智能系统是否真正理解科学现象。
• 开发一种可测试的基准——受图灵测试启发——以评估人工智能是否能将科学理解传递给人类学习者。
• 通过整合实证轶事与理论框架，弥合计算科学、人工智能与科学哲学之间的鸿沟。
• 规划一条实现‘机器人科学家’的路线图，使其具备自主科学发现与解释的能力。

提出的方法

• 基于科学理解的哲学理论（例如 De Regt & Dieks 的理论），本文确立了真正科学理解所应具备的标准。
• 作者收集并分析了来自化学、物理和生物学领域数十位科学家的一手叙述，探讨人工智能工具如何促成概念性突破。
• 他们将人工智能在科学理解中的角色划分为三个维度：(I) 计算显微镜，(II) 灵感资源，(III) 理解代理。
• 提出了一项创新性测试——‘科学理解测试’，其设计灵感来自图灵测试：一名人类学生与一位教师（人类或人工智能）互动，由裁判评估解释的质量。
• 该测试评估教师的解释是否具有非平凡性、连贯性，并可在不同情境间迁移，以此表明真正的理解。
• 该框架设想未来的AI系统将利用先进的自然语言处理与人机交互技术，参与科学对话与解释。

实验结果

研究问题

• RQ1 人工智能系统如何在超越数值预测之外，对科学理解做出有意义的贡献？
• RQ2 人工智能在推进科学理解中可扮演的三种不同角色是什么？每种角色如何实现？
• RQ3 可采用哪些标准来判断人工智能系统是否实现了真正的科学理解？
• RQ4 如何设计一项测试，以评估人工智能是否能将科学理解有效传递给人类学习者？
• RQ5 需要哪些技术和跨学科进展，才能使人工智能真正成为科学理解的代理？

主要发现

• 人工智能系统可作为计算显微镜，揭示复杂数据中的隐藏模式，使科学家得以观察此前无法触及的现象。
• 人工智能作为强大的灵感资源，能够生成新颖的假设与概念框架，引导人类科学探究。
• ‘科学理解测试’提供了一项实用且以人类为中心的基准，用以评估人工智能是否能以传递洞见的方式解释科学概念。
• 该测试的设计原则是：若人类无法区分人类专家与人工智能教师的解释，则认为该人工智能已实现科学理解。
• 人工智能实现真正科学理解的关键并非预测的正确性，而在于其能够以对人类具有概念意义的方式进行解释、推理并传递洞见。
• 作者认为，未来的发展需要自然科学家、计算机科学家与科学哲学家之间开展深度协作，才能实现具备自主理解能力的人工智能代理。