[논문 리뷰] Unsupervised Machine Learning Discovery of Chemical and Physical Transformation Pathways from Imaging Data

Sergei V. Kalinin, Ondrej Dyck외 5명|arXiv (Cornell University)|2020. 10. 18.

Machine Learning in Materials Science인용 수 8

한 줄 요약

이 논문은 스캐닝 투명도 전자현미경(STEM) 및 푸아포스포르스턴스 포스 미세측정(PFM)에서의 원자 해상도 영상 데이터로부터 화학적 및 물리적 전이 경로를 발견하기 위해 회전 불변 변동형 자료기반 오토인코더(rVAE)를 사용하는 비지도 기계학습 프레임워크를 제시한다. 영상 시퀀스를 저차원 잠재 공간으로 인코딩함으로써, 레이블이 없는 데이터에서 구조 단위와 전이 경로를 식별하며, 하향식 순서 매개변수를 드러내고 고정밀 영상 데이터로부터 물리적 메커니즘을 발견할 수 있다.

ABSTRACT

We show that unsupervised machine learning can be used to learn physical and chemical transformation pathways from the observational microscopic data, as demonstrated for atomically resolved images in Scanning Transmission Electron Microscopy (STEM) and ferroelectric domain structures in Piezoresponse Force Microscopy (PFM). To enable this analysis in STEM, we assumed the existence of atoms, a discreteness of atomic classes, and the presence of an explicit relationship between the observed STEM contrast and the presence of atomic units. In PFM, we assumed the uniquely-defined relationship between the measured signal and polarization distribution. With only these postulates, we developed a machine learning method leveraging a rotationally-invariant variational autoencoder (rVAE) that can identify the existing structural units observed within a material. The approach encodes the information contained in image sequences using a small number of latent variables, allowing the exploration of chemical and physical transformation pathways via the latent space of the system. The results suggest that the high-veracity imaging data can be used to derive fundamental physical and chemical mechanisms involved, by providing encodings of the observed structures that act as bottom-up equivalents of structural order parameters. The approach also demonstrates the potential of variational (i.e., Bayesian) methods for physical sciences and will stimulate the development of new ways to encode physical constraints in the encoder-decoder architectures, and generative physical laws, topological invariances, and causal relationships in the latent space of VAEs.

연구 동기 및 목표

• 비라벨링된 현미경 영상 데이터로부터 물리적 및 화학적 전이 경로를 탐색하는 데이터 기반 접근법을 개발하기 위해.
• 반응 좌표에 대한 사전 가정 없이도 고해상도 영상에서 직접적으로 구조 단위와 순서 매개변수를 식별하기 위해.
• 재료의 물리적 제약 조건과 위상 불변성을 포함한 잠재 표현을 비지도 학습으로 학습하기 위해.
• 스캐닝 투명도 전자현미경(STEM) 및 푸아포스포르스턴스 포스 미세측정(PFM)에서의 실제 실험 데이터에 이 방법의 적용 가능성을 입증하기 위해.
• 변동형 자료기반 오토인코더의 잠재 공간에서 물리 법칙과 인과 관계를 생성 모델링하기 위한 기초를 마련하기 위해.

제안 방법

• 방법은 영상 시퀀스를 저차원 잠재 공간으로 인코딩하면서도 회전 불변성을 유지하는 회전 불변 변동형 자료기반 오토인코더(rVAE)를 사용한다.
• rVAE는 STEM 및 PFM의 영상 시퀀스를 기반으로 훈련되며, 이는 이산 원자 클래스와 명시적인 대비-구조 관계를 가정한다.
• 에코더는 입력 영상을 확률적 잠재 표현으로 매핑하고, 디코더는 잠재 코드에서 영상을 재구성함으로써 재구성 및 생성이 가능하다.
• 잠재 공간을 탐색하여 서로 다른 구조 단위에 해당하는 클러스터와 그들 사이의 연속 경로를 식별한다.
• 위상 불변성과 인과 관계와 같은 물리적 제약 조건은 아키텍처 설계와 고정밀 영상 데이터 기반 훈련을 통해 암묵적으로 표현된다.
• 측정된 신호(STEM 대비 또는 PFM 반응)와 기저의 원자 또는 분극 구조 사이에 유일한 매핑이 존재한다고 가정한다.

실험 결과

연구 질문

• RQ1 비지도 기계학습이 레이블이 없는 고정밀 영상 데이터로부터 의미 있는 물리적 전이 경로를 추출할 수 있는가?
• RQ2 회전 불변 변동형 자료기반 오토인코더는 사전 레이블링 없이도 현미경 영상에서 직접적으로 구조 단위와 순서 매개변수를 식별할 수 있는가?
• RQ3 위상 불변성과 인과 관계와 같은 물리적 제약 조건을 재료 과학 응용 분야의 VAE 잠재 공간에 어떻게 통합할 수 있는가?
• RQ4 이러한 잠재 공간이 전통적인 순서 매개변수의 하향식 등가물로 기능할 수 있는 정도는 어느 정도인가?
• RQ5 이 접근법은 명시적인 이론 모델 없이도 영상 데이터만으로 숨겨진 물리적 메커니즘을 드러낼 수 있는가?

주요 결과

• rVAE는 STEM 및 PFM 영상 시퀀스로부터 복잡한 구조 단위와 전이 경로를 저차원 잠재 공간으로 성공적으로 인코딩하였다.
• 레이블이 없는 데이터 조건에서도 명확한 구조 상과 그 사이의 연속 전이 경로를 식별하였다.
• 잠재 공간 표현은 물리적 및 화학적 변화를 반영하는 구조 순서 매개변수의 하향식 등가물로 기능하였다.
• 이 방법은 고정밀 영상 데이터가 비지도 학습을 통해 기본 물리적 메커니즘을 탐색하는 기초로 활용될 수 있음을 입증하였다.
• 이 프레임워크는 변동형 자료기반 오토인코더가 실제 현미경 데이터 기반 훈련을 통해 물리적 제약 조건과 위상 불변성을 통합할 수 있음을 드러냈다.
• 결과적으로, 딥 러닝을 활용한 재료 과학 분야에서 물리 법칙과 인과 관계의 생성 모델링으로 향하는 길을 제시한다.