[论文解读] Explainable Deep Learning for Uncovering Actionable Scientific Insights for Materials Discovery and Design

Shusen Liu, Bhavya Kailkhura+5 more|arXiv (Cornell University)|Jul 16, 2020

Machine Learning in Materials Science参考文献 38被引用 5

一句话总结

本文提出了一种领域感知的、生成式可解释人工智能框架，利用可调节的材料属性作为'旋钮'，对材料科学中的深度学习模型进行探查。通过生成具有受控属性（如晶粒尺寸、多分散性）的假设SEM图像，该方法揭示了可操作的洞察——例如，减小平均晶粒尺寸可提高预测的峰值应力——使科学家能够直接从黑箱模型中推导出设计规则。

ABSTRACT

The scientific community has been increasingly interested in harnessing the power of deep learning to solve various domain challenges. However, despite the effectiveness in building predictive models, fundamental challenges exist in extracting actionable knowledge from deep neural networks due to their opaque nature. In this work, we propose techniques for exploring the behavior of deep learning models by injecting domain-specific actionable attributes as tunable "knobs" in the analysis pipeline. By incorporating the domain knowledge in a generative modeling framework, we are not only able to better understand the behavior of these black-box models, but also provide scientists with actionable insights that can potentially lead to fundamental discoveries.

研究动机与目标

• 解决在科学领域中解释黑箱深度学习模型的挑战，因为模型的不透明性限制了科学洞察的提取。
• 克服像素级解释方法（如GradCAM）无法向领域专家传达有意义、可解释的科学概念的局限性。
• 使科学家能够理解特定材料属性（如晶粒尺寸、孔隙率）的变化如何影响预测的材料性能（如峰值应力）。
• 基于模型行为，提供可操作、直观且视觉化支撑的材料合成设计指南。
• 开发一种可推广的流程，支持对材料批次的实例级和群体级模型行为分析。

提出的方法

• 在条件生成建模框架中整合领域特定属性（如晶粒尺寸、多分散性、晶面度）作为可控变量。
• 使用训练好的生成模型（如GAN）生成对应用户定义属性值的逼真假设SEM图像。
• 将生成模型基于关键属性进行条件化，以生成反映期望显微结构变化的图像块，例如更小或更具多分散性的晶粒。
• 将预测性深度神经网络（DNN）应用于这些生成的图像，以分析预测峰值应力如何随属性变化而变化。
• 采用基于优化的方法，识别能最大化期望输出（如峰值应力）的最优属性组合。
• 结合单个实例的解释与整个材料批次的聚合分析，以验证一致性并揭示稳健趋势。

实验结果

研究问题

• RQ1 我们如何在材料科学中生成超越像素级显著性图的、有意义且可科学解释的深度学习预测解释？
• RQ2 在生成的显微结构中，对领域属性（如晶粒尺寸）进行受控操纵，在在多大程度上能揭示其与预测材料性能之间的因果关系？
• RQ3 通过探查假设性材料显微结构，我们能否从模型行为中推导出可操作、可直接用于合成的设计规则？
• RQ4 多个属性如何共同影响预测的峰值应力？分析中会涌现出哪些最优组合？
• RQ5 所提出的方法是否能一致地在整批材料中揭示趋势，从而确认洞察结果不仅限于单个预测，而是具有鲁棒性？

主要发现

• 在单个图像块和整个材料批次中，减小平均晶粒尺寸并增加多分散性均与更高的预测峰值应力一致相关。
• 该模型识别出减小晶粒尺寸是提升预测峰值应力的最有效单一因素，与已知实验实践（如研磨TATB）一致。
• 该方法证实了增加多分散性可提高颗粒堆积密度，这是材料加工中的已知机制，验证了其科学相关性。
• 从单个实例的反向解释与整个批次的正向分析结果一致，表明该方法具有可靠性。
• 生成的假设性SEM图像提供了对最优显微结构的直观、视觉化表示，使科学家能够可视化目标合成条件。
• 该框架成功地将抽象的模型行为转化为可操作、领域特定的指导原则，可在无需额外实验的情况下指导实际材料合成。