[论文解读] Unsupervised Machine Learning Discovery of Chemical and Physical Transformation Pathways from Imaging Data

Sergei V. Kalinin, Ondrej Dyck+5 more|arXiv (Cornell University)|Oct 18, 2020

Machine Learning in Materials Science被引用 8

一句话总结

本文提出了一种无监督机器学习框架，采用旋转不变变分自编码器（rVAE）从扫描透射电镜（STEM）和压电力显微镜（PFM）的原子分辨率成像数据中发现化学与物理转化路径。通过将图像序列编码到低维潜在空间，该方法在无需标注数据的情况下识别出结构单元和转化路径，揭示了自下而上的序参量，并实现了从高保真成像数据中发现物理机制。

ABSTRACT

We show that unsupervised machine learning can be used to learn physical and chemical transformation pathways from the observational microscopic data, as demonstrated for atomically resolved images in Scanning Transmission Electron Microscopy (STEM) and ferroelectric domain structures in Piezoresponse Force Microscopy (PFM). To enable this analysis in STEM, we assumed the existence of atoms, a discreteness of atomic classes, and the presence of an explicit relationship between the observed STEM contrast and the presence of atomic units. In PFM, we assumed the uniquely-defined relationship between the measured signal and polarization distribution. With only these postulates, we developed a machine learning method leveraging a rotationally-invariant variational autoencoder (rVAE) that can identify the existing structural units observed within a material. The approach encodes the information contained in image sequences using a small number of latent variables, allowing the exploration of chemical and physical transformation pathways via the latent space of the system. The results suggest that the high-veracity imaging data can be used to derive fundamental physical and chemical mechanisms involved, by providing encodings of the observed structures that act as bottom-up equivalents of structural order parameters. The approach also demonstrates the potential of variational (i.e., Bayesian) methods for physical sciences and will stimulate the development of new ways to encode physical constraints in the encoder-decoder architectures, and generative physical laws, topological invariances, and causal relationships in the latent space of VAEs.

研究动机与目标

• 开发一种数据驱动方法，从未标注的显微成像数据中发现物理与化学转化路径。
• 直接从高分辨率成像中识别结构单元与序参量，无需预先标注或对反应坐标做出假设。
• 实现潜在表征的无监督学习，以编码材料中的物理约束与拓扑不变性。
• 证明该方法在扫描透射电镜（STEM）和压电力显微镜（PFM）真实实验数据中的适用性。
• 为变分自编码器潜在空间中物理定律与因果关系的生成建模奠定基础。

提出的方法

• 该方法采用旋转不变变分自编码器（rVAE），在保持旋转不变性的同时，将图像序列编码到低维潜在空间。
• rVAE在STEM和PFM的图像序列上进行训练，利用离散原子类别假设及显式对比度-结构关系。
• 编码器将输入图像映射到概率潜在表征，解码器则从潜在码重建图像，实现图像重建与生成。
• 通过探索潜在空间，识别出对应于不同结构单元的聚类以及它们之间的连续路径。
• 通过网络结构设计与在高保真成像数据上的训练，隐式编码了诸如拓扑不变性与因果关系等物理约束。
• 该方法假设测量信号（STEM对比度或PFM响应）与底层原子或极化结构之间存在唯一映射。

实验结果

研究问题

• RQ1 无监督机器学习能否从未标注的高保真成像数据中提取有意义的物理转化路径？
• RQ2 旋转不变变分自编码器能否在无需预先标注的情况下，直接从显微图像中识别结构单元与序参量？
• RQ3 如何在变分自编码器的潜在空间中嵌入材料科学应用中的物理约束，如拓扑不变性与因果关系？
• RQ4 生成模型的潜在空间在多大程度上可作为传统序参量的自下而上等价物？
• RQ5 该方法能否仅通过成像数据揭示隐藏的物理机制，而无需显式理论模型？

主要发现

• rVAE成功地将STEM与PFM图像序列中的复杂结构单元与转化路径编码到低维潜在空间中。
• 该方法即使在无标注数据的情况下，也能识别出不同的结构相及其之间的连续转化路径。
• 潜在空间表征作为结构序参量的自下而上等价物，捕捉了材料中的物理与化学变化。
• 该方法表明，高保真成像数据可作为通过无监督学习发现基本物理机制的基础。
• 该框架揭示，当在真实显微成像数据上训练时，变分自编码器能够嵌入物理约束与拓扑不变性。
• 结果表明，利用深度学习实现材料科学中物理定律与因果关系的生成建模存在可行路径。