[论文解读] MechGPT, a language-based strategy for mechanics and materials modeling that connects knowledge across scales, disciplines and modalities

Markus J. Buehler|arXiv (Cornell University)|Oct 16, 2023

Machine Learning in Materials Science被引用 7

一句话总结

MechGPT 是一个经过微调的大型语言模型（LLM），旨在整合力学与材料科学中跨尺度、跨学科和跨模态的知识。通过利用检索增强生成和本体论知识图谱，它能够实现假设生成、跨领域推理以及可解释的知识检索，模型参数量从 13B 到 70B 不等，上下文长度超过 10,000 个标记。

ABSTRACT

For centuries, researchers have sought out ways to connect disparate areas of knowledge. While early scholars (Galileo, da Vinci, etc.) were experts across fields, specialization has taken hold later. With the advent of Artificial Intelligence, we can now explore relationships across areas (e.g., mechanics-biology) or disparate domains (e.g., failure mechanics-art). To achieve this, we use a fine-tuned Large Language Model (LLM), here for a subset of knowledge in multiscale materials failure. The approach includes the use of a general-purpose LLM to distill question-answer pairs from raw sources followed by LLM fine-tuning. The resulting MechGPT LLM foundation model is used in a series of computational experiments to explore its capacity for knowledge retrieval, various language tasks, hypothesis generation, and connecting knowledge across disparate areas. While the model has some ability to recall knowledge from training, we find that LLMs are particularly useful to extract structural insights through Ontological Knowledge Graphs. These interpretable graph structures provide explanatory insights, frameworks for new research questions, and visual representations of knowledge that also can be used in retrieval-augmented generation. Three versions of MechGPT are discussed, featuring different sizes from 13 billion to 70 billion parameters, and reaching context lengths of more than 10,000 tokens. This provides ample capacity for sophisticated retrieval augmented strategies, as well as agent-based modeling where multiple LLMs interact collaboratively and/or adversarially, the incorporation of new data from the literature or web searches, as well as multimodality.

研究动机与目标

• 弥合材料科学中从原子尺度到宏观尺度、从力学、生物学到艺术等学科，以及从文本、图像到方程等数据模态之间的知识鸿沟。
• 开发一个基础 LLM，能够从异构科学文献中检索、推理并生成假设。
• 通过本体论知识图谱实现可解释的知识表征，以增强可解释性和检索能力。
• 支持基于智能体的建模和多模态整合等先进 AI 工作流，利用长上下文 LLM。
• 通过连接力学与材料建模中不同领域，展示 LLM 在加速科学发现方面的实用性。

提出的方法

• 在多尺度材料失效的原始科学资料中提炼出的问答对上，对通用 LLM 进行微调。
• 使用检索增强生成（RAG）技术，增强响应的知识基础，减少幻觉现象。
• 从 LLM 提取的关系中构建本体论知识图谱，以提供可解释、可可视化且可查询的知识结构。
• 训练三个版本的 MechGPT，参数量分别为 13B、34B 和 70B，支持超过 10,000 个标记的上下文长度。
• 通过整合文献和网络搜索的外部数据，实现动态知识更新和基于智能体的协作。
• 通过知识图谱框架连接文本、符号和视觉知识表征，支持多模态推理。

实验结果

研究问题

• RQ1 微调后的 LLM 是否能有效实现力学与材料科学中多尺度和多学科知识的检索与推理？
• RQ2 LLM 在连接如失效力学与艺术表现等不同领域时，能否生成可测试的假设？
• RQ3 本体论知识图谱在材料建模中在多大程度上提升了可解释性和检索准确性？
• RQ4 长上下文 LLM 是否能够支持基于智能体的建模和多模态推理等复杂科学发现工作流？
• RQ5 模型规模（从 13B 到 70B 参数）对材料科学任务中的知识保留和推理性能有何影响？

主要发现

• MechGPT 展现出强大的知识检索与跨领域推理能力，尤其在结合外部知识源时表现更优。
• LLM 提取的本体论知识图谱提供了可解释、可视化且可查询的科学关系表征。
• 在使用检索增强生成时，模型的推理能力和假设生成能力得到提升，相比标准 LLM，幻觉现象显著减少。
• 更大的模型规模（最高达 70B 参数）和更长的上下文长度（>10,000 标记）支持更复杂的检索和多智能体推理工作流。
• 通过知识图谱整合多模态数据，支持更丰富、更具上下文关联的科学探究，超越纯文本推理。
• MechGPT 通过语义和结构类比，连接了力学与艺术等传统上相互隔离的领域，开辟了全新的研究路径。