[論文レビュー] Unsupervised Machine Learning Discovery of Chemical and Physical Transformation Pathways from Imaging Data

Sergei V. Kalinin, Ondrej Dyck+5 more|arXiv (Cornell University)|Oct 18, 2020

Machine Learning in Materials Science被引用数 8

ひとこと要約

本論文は、走査型透過電子顕微鏡（STEM）およびピエゾ応答力率顕微鏡（PFM）からの原子解像度の画像データから、化学的・物理的変換経路を発見するための、回転不変な変分オートエンコーダー（rVAE）を用いた教師なし機械学習フレームワークを提示する。画像系列を低次元の潜在空間に符号化することで、ラベルなしの状態で構造的単位と変換経路を同定し、下からの順序パラメータを明らかにするとともに、高精度な画像データから物理的メカニズムの発見を可能にする。

ABSTRACT

We show that unsupervised machine learning can be used to learn physical and chemical transformation pathways from the observational microscopic data, as demonstrated for atomically resolved images in Scanning Transmission Electron Microscopy (STEM) and ferroelectric domain structures in Piezoresponse Force Microscopy (PFM). To enable this analysis in STEM, we assumed the existence of atoms, a discreteness of atomic classes, and the presence of an explicit relationship between the observed STEM contrast and the presence of atomic units. In PFM, we assumed the uniquely-defined relationship between the measured signal and polarization distribution. With only these postulates, we developed a machine learning method leveraging a rotationally-invariant variational autoencoder (rVAE) that can identify the existing structural units observed within a material. The approach encodes the information contained in image sequences using a small number of latent variables, allowing the exploration of chemical and physical transformation pathways via the latent space of the system. The results suggest that the high-veracity imaging data can be used to derive fundamental physical and chemical mechanisms involved, by providing encodings of the observed structures that act as bottom-up equivalents of structural order parameters. The approach also demonstrates the potential of variational (i.e., Bayesian) methods for physical sciences and will stimulate the development of new ways to encode physical constraints in the encoder-decoder architectures, and generative physical laws, topological invariances, and causal relationships in the latent space of VAEs.

研究の動機と目的

• ラベルなしの顕微鏡的画像データから物理的・化学的変換経路を発見するデータ駆動型アプローチの開発。
• 反応座標に関する事前の仮定なしに、高分解能画像から直接構造的単位と順序パラメータを同定すること。
• 材料における物理的制約およびトポロジカル不変性を暗黙的に符号化する潜在表現の教師なし学習。
• 走査型透過電子顕微鏡（STEM）およびピエゾ応答力率顕微鏡（PFM）からの実験的データに本手法を適用可能であることを示すこと。
• 変分オートエンコーダーの潜在空間における物理法則および因果関係の生成的モデリングの基盤を確立すること。

提案手法

• 本手法は、回転不変性を保持しながら画像系列を低次元の潜在空間に符号化する回転不変な変分オートエンコーダー（rVAE）を採用する。
• rVAEは、原子クラスの離散性と明示的な対応関係（対応強度-構造関係）を仮定して、STEMおよびPFMの画像系列で訓練する。
• エンコーダーは入力画像を確率的潜在表現にマッピングし、デコーダーは潜在コードから画像を再構成することで、再構成および生成が可能になる。
• 潜在空間の探索により、明確に分離された構造的単位とそれらの間の連続的経路が同定される。
• トポロジカル不変性や因果関係といった物理的制約は、アーキテクチャ設計および高信頼性の画像データへの訓練によって暗黙的に符号化される。
• 測定信号（STEMの対応強度またはPFM応答）とそれらに対応する原子的または分極構造との間には一意のマッピングが存在すると仮定する。

実験結果

リサーチクエスチョン

• RQ1 教師なし機械学習は、ラベルなしの高精度な顕微鏡画像データから意味的な物理的変換経路を抽出できるか？
• RQ2 回転不変な変分オートエンコーダーは、事前のラベルなしに顕微鏡画像から構造的単位と順序パラメータを同定できるか？
• RQ3 トポロジカル不変性や因果関係といった物理的制約を、材料科学の応用においてVAEの潜在空間に埋め込む方法は何か？
• RQ4 生成的モデルの潜在空間が、材料科学における従来の順序パラメータの下からの同等物として、どの程度有効に機能するか？
• RQ5 本アプローチは、明示的な理論的モデルなしに、画像データそのものから隠れた物理的メカニズムを明らかにできるか？

主な発見

• rVAEは、STEMおよびPFMの画像系列から複雑な構造的単位と変換経路を、低次元の潜在空間に効果的に符号化した。
• 本手法は、ラベルなしの状態でも明確に分離された構造的相とそれらの間の連続的変換経路を同定した。
• 潜在空間の表現は、物理的および化学的変化を捉える構造的順序パラメータの下からの同等物として機能した。
• 本手法は、高信頼性の顕微鏡画像データが、教師なし学習を用いて根本的な物理的メカニズムを発見する基盤として機能しうることを示した。
• フレームワークは、実顕微鏡データで訓練された変分オートエンコーダーが、物理的制約およびトポロジカル不変性を埋め込むことができることを明らかにした。
• 結果から、深層学習を用いて材料科学における物理法則および因果関係の生成的モデリングへの道筋が示唆された。