[论文解读] Math Agents: Computational Infrastructure, Mathematical Embedding, and Genomics

Melanie Swan, Takashi Kido+2 more|arXiv (Cornell University)|Jul 4, 2023

Scientific Computing and Data Management被引用 4

一句话总结

本文提出数学智能体（Math Agents）——一种基于大语言模型的系统，可将文献中的科学方程转化为可执行的 LaTeX 和 Python 代码，从而为基因组学和系统生物学构建可扩展的计算基础设施。通过利用数学嵌入和情景记忆，该框架推动了‘大数学’而非‘大数据’的发展，为纵向健康数据中因果关系的建模提供了路径，并有望解决阿尔茨海默病等未解难题。

ABSTRACT

The advancement in generative AI could be boosted with more accessible mathematics. Beyond human-AI chat, large language models (LLMs) are emerging in programming, algorithm discovery, and theorem proving, yet their genomics application is limited. This project introduces Math Agents and mathematical embedding as fresh entries to the "Moore's Law of Mathematics", using a GPT-based workflow to convert equations from literature into LaTeX and Python formats. While many digital equation representations exist, there's a lack of automated large-scale evaluation tools. LLMs are pivotal as linguistic user interfaces, providing natural language access for human-AI chat and formal languages for large-scale AI-assisted computational infrastructure. Given the infinite formal possibility spaces, Math Agents, which interact with math, could potentially shift us from "big data" to "big math". Math, unlike the more flexible natural language, has properties subject to proof, enabling its use beyond traditional applications like high-validation math-certified icons for AI alignment aims. This project aims to use Math Agents and mathematical embeddings to address the ageing issue in information systems biology by applying multiscalar physics mathematics to disease models and genomic data. Generative AI with episodic memory could help analyse causal relations in longitudinal health records, using SIR Precision Health models. Genomic data is suggested for addressing the unsolved Alzheimer's disease problem.

研究动机与目标

• 通过引入数学智能体作为数学推理的计算基础设施，解决当前生成式人工智能在基因组学中的局限性。
• 克服科学文献中数字方程表示缺乏自动化、大规模评估工具的问题。
• 通过将数学嵌入与大语言模型结合，实现在系统生物学中可扩展的正式数学推理。
• 应用多尺度物理数学方法，对疾病进展进行建模，并分析纵向健康记录中的因果关系。
• 通过 SIR 模型和人工智能辅助的基因组数据分析，推动精准健康发展，尤其针对阿尔茨海默病等复杂疾病。

提出的方法

• 利用基于 GPT 的工作流，自动从科学文献中提取并转换方程为标准化的 LaTeX 和 Python 格式。
• 开发数学嵌入，以向量空间表示形式化数学表达式，实现语义搜索与推理。
• 在生成式人工智能中实现情景记忆，以在时间序列上保留并推理数学与生物数据。
• 将大语言模型作为语言用户界面，连接自然语言查询与形式化数学及计算表示。
• 将该框架应用于基于 SIR（易感-感染-康复）的精准健康模型，对纵向健康数据进行疾病动态建模。
• 应用多尺度数学形式化方法，连接基因组数据分析中分子、细胞与系统层面的生物过程。

实验结果

研究问题

• RQ1 如何系统性地利用大语言模型，将科学方程转化为可用于计算的可执行代码？
• RQ2 数学嵌入在生物情境下，能在多大程度上提升对形式化数学表达式的检索与推理能力？
• RQ3 生成式人工智能中的情景记忆能否提升对纵向健康与基因组数据集的因果推断能力？
• RQ4 数学智能体如何推动系统生物学与精准医学中从‘大数据’向‘大数学’的转变？
• RQ5 形式化数学推理在利用基因组与临床数据建模复杂疾病（如阿尔茨海默病）方面发挥何种作用？

主要发现

• 基于 GPT 的工作流成功将科学文献中的方程转换为可执行的 LaTeX 和 Python 代码，支持下游计算应用。
• 数学嵌入为形式化表达式提供了语义向量表示，促进了对数学内容的搜索与推理。
• 生成式人工智能中的情景记忆使对时间序列生物与临床数据的持续推理成为可能，支持纵向记录中的因果推断。
• 该框架在基于 SIR 的精准健康模型中成功实现疾病进展建模，表明其在慢性病预测中的潜在价值。
• 将多尺度物理数学与基因组数据结合，为建模复杂生物系统提供了新方法。
• 该项目将数学智能体定位为推动定量生物学与人工智能对齐中‘大数学’发展的基础性计算基础设施。