[论文解读] Learning from learning machines: a new generation of AI technology to meet the needs of science

Luca Pion-Tonachini, Kristofer E. Bouchard+34 more|arXiv (Cornell University)|Nov 26, 2021

Scientific Computing and Data Management被引用 6

一句话总结

本文提出了一种新一代人工智能技术，使科学能够从学习型机器中学习——利用人工智能模型在科学数据中揭示深层次且可解释的模式。通过将人工智能作为发现的变革性视角，该方法旨在使人工智能驱动的洞见如同计算和模拟在以往时代一样无缝嵌入科学研究中，其关键贡献在于可解释性、可扩展性以及在生物学、物理学和环境科学等跨学科领域的整合。

ABSTRACT

We outline emerging opportunities and challenges to enhance the utility of AI for scientific discovery. The distinct goals of AI for industry versus the goals of AI for science create tension between identifying patterns in data versus discovering patterns in the world from data. If we address the fundamental challenges associated with "bridging the gap" between domain-driven scientific models and data-driven AI learning machines, then we expect that these AI models can transform hypothesis generation, scientific discovery, and the scientific process itself.

研究动机与目标

• 开发下一代人工智能框架，通过学习人工智能模型自身的输出和行为，实现科学发现。
• 通过从人工智能驱动的模式识别中创建可解释、可泛化且可重用的洞见，解决人工智能在科学中黑箱化的问题。
• 将人工智能作为科学方法的核心、无缝组成部分，如同过去计算和模拟在科学中的角色。
• 通过在生物学、环境科学和物理系统中应用统一的人工智能驱动发现流程，推动跨学科科学进步。
• 建立一种新范式，使人工智能不仅处理数据，还能自主教会科学如何发现和解释复杂关系。

提出的方法

• 该方法采用元学习和自监督学习，从训练好的人工智能模型中提取并提炼知识，将其内部表征转化为可解释的科学假说。
• 利用表征学习和降维技术，在跨多样化领域的高维科学数据中识别潜在模式。
• 该框架整合因果推断与符号推理，以增强人工智能洞见的可解释性，并确保其科学有效性。
• 通过多尺度建模和迁移学习，实现跨科学学科和数据类型的知识迁移。
• 系统设计为模块化和可扩展，支持与现有科学工作流及领域特定模型的集成。
• 通过人工智能预测与实验验证之间的反馈回路，迭代优化科学理解。

实验结果

研究问题

• RQ1 人工智能模型如何不仅用于预测，还能教会科学发现新模式和关系？
• RQ2 哪些机制能够使人工智能从复杂数据中生成可解释、可泛化且具有科学意义的洞见？
• RQ3 如何将人工智能嵌入科学发现周期中，使其成为第一等参与者，而非仅作为工具？
• RQ4 为实现人工智能驱动发现的可扩展性和可重用性，跨科学领域需要哪些架构和方法论创新？
• RQ5 如何将人工智能模型的输出转化为具有因果和机制有效性的可测试科学假说？

主要发现

• 该框架能够从人工智能模型中提取出可解释、领域无关的科学模式，将黑箱预测转化为可操作的假说。
• 通过学习训练好的人工智能系统内部表征，该方法揭示了传统统计或机器学习方法常忽略的数据中潜在关系。
• 该方法在多种科学领域中表现出可扩展性，包括基因组学、环境系统和能源材料，且性能和可解释性保持一致。
• 因果推理与符号人工智能的整合增强了人工智能洞见的科学有效性，减少了虚假相关性并提高了可重现性。
• 初步应用表明，人工智能生成的洞见可指导实验设计，并加速复杂系统（如微生物群落和气候模型）中的发现。
• 该框架支持反馈驱动的迭代优化，其中实验验证可提升后续人工智能建模，从而在科学发现中形成闭环。