[논문 리뷰] Global exploration of phase behavior in frustrated Ising models using unsupervised learning techniques

Danilo Rodrigues de Assis Elias, Enzo Granato외 1명|arXiv (Cornell University)|2020. 12. 21.

Quantum many-body systems참고 문헌 48인용 수 7

한 줄 요약

이 논문은 과도한 이징 모델의 상도를 전역적으로 맵핑하기 위해 무 supervision 학습—특히 주성분 분석(PCA)과 오토에인코더—를 무작위로 샘플된 몬테카를로 스핀 구성에 적용하는 기계학습 프레임워크를 제안한다. 이 방법은 높은 정확도로 임계선을 추정하며, 오토에인코더 기반의 잠재공간이 PCA를 능가하고 물리적 성질과의 구조적 연결을 드러내어 정확한 해와 뛰어난 일치도를 보이며, 단지 1,400개의 구성만으로도 결과를 도출한다.

ABSTRACT

We apply a set of machine-learning (ML) techniques for the global exploration of the phase diagrams of two frustrated 2D Ising models with competing interactions. Based on raw Monte Carlo spin configurations generated for random system parameters, we apply principal-component analysis (PCA) and auto-encoders to achieve dimensionality reduction, followed by clustering using the DBSCAN method and a support-vector machine classifier to construct the transition lines between the distinct phases in both models. The results are in very good agreement with available exact solutions, with the auto-encoders leading to quantitatively superior estimates, even for a data set containing only 1400 spin configurations. In addition, the results suggest the existence of a relationship between the structure of the optimized auto-encoder latent space and physical characteristics of both systems. This indicates that the employed approach can be useful in perceiving fundamental properties of physical systems in situations where \emph{a priori} theoretical insight is unavailable.

연구 동기 및 목표

• 과도한 스핀 시스템에서 이론적 가정 없이 데이터 기반의 무 supervision 기계학습 접근법을 개발하여 전역 상도 탐색을 수행한다.
• 희소하고 무작위로 샘플된 데이터로부터 임계 상 경계를 포착하는 데 있어 차원 축소 기법(PCA 대 비선형 오토에인코더)의 성능을 평가한다.
• 학습된 잠재공간의 구조가 대칭성 및 독립적인 질서 매개변수의 수와 같은 체계의 기본 물리적 특성을 반영하는지 조사한다.
• 이 방법이 제한된 데이터로도 정확한 임계선 추정을 가능하게 하여 전통적 방법보다 뛰어난 데이터 효율성을 보임을 보여준다.
• 이론적 통찰이 부족한 상황에서 무 supervision 기계학습이 알려지지 않은 물리적 성질을 발견하는 데의 잠재력을 탐색한다.

제안 방법

• 두 종류의 2D 과도한 이징 모델(PUD 및 ZZD)의 전체 매개변수 공간에서 무작위로 균일하게 분포된 매개변수를 갖는 몬테카를로 스핀 구성의 원시 데이터를 생성한다.
• 주성분 분석(PCA)과 변분 오토에인코더(VAE)를 적용하여 비선형 차원 축소를 수행하고, 고차원 스핀 구성의 낮은 차원의 잠재공간으로 매핑한다.
• 감소된 잠재공간에 대해 DBSCAN 군집화를 적용하여 밀도 기반 공간 그룹화에 기반한 상 영역을 식별한다.
• 군집화된 데이터에 대해 서포트 벡터 머신(SVM) 분류기를 훈련시켜 상 경계를 예측하고 매개변수 공간 전반에 걸쳐 연속적인 임계선을 구성한다.
• 이미지 복원 정확도를 극대화하고 복원 오차를 최소화하기 위해 2개의 뉴런을 갖는 버팀목 층을 갖는 오토에인코더 아키텍처를 최적화한다.
• 정확한 해와의 비교를 통해 결과를 검증하고, 잠재공간 기하학과 대칭성, 상 질서 매개변수와 같은 물리적 시스템 성질 간의 관계를 분석한다.

실험 결과

연구 질문

• RQ1 무 supervision 기계학습 기법이 단일 무작위 샘플 데이터 세트로부터 과도한 이징 모델의 전역 상도를 정량적으로 재구성할 수 있는가?
• RQ2 비선형 스핀 시스템에서 임계 상 경계를 포착하는 데 있어 오토에인코더의 성능이 PCA에 비해 어떻게 뛰어나게 되는가?
• RQ3 오토에인코더에서 학습된 잠재공간의 구조가 대칭성 또는 질서 매개변수의 수와 같은 체계의 내재된 물리적 특성을 반영하는가?
• RQ4 이 방법이 임계 영역 근처에 특별히 샘플링하지 않더라도 단지 1,400개의 스핀 구성만으로도 높은 정확도로 임계선을 탐지할 수 있는가?
• RQ5 잠재공간 차원이 상 행동을 지배하는 독립적인 물리적 매개변수의 수와 얼마나 관련이 있는가?

주요 결과

• 오토에인코더 기반 접근법은 단지 1,400개의 스핀 구성만으로도 PCA보다 정량적으로 뛰어난 임계선 추정을 달성하여 높은 데이터 효율성을 입증하였다.
• 2개의 뉴런을 갖는 버팀목 층에서 오토에인코더는 90% 이상의 이미지 복원 정확도를 달성했지만, PCA는 2차원 잠재공간에서 데이터 분산의 34%만을 포괄하였다.
• PUD 및 ZZD 모델에 대한 임계선 추정치는 정확한 해와 뛰어난 일치도를 보였으며, 특히 PUD 모델의 경우 시스템 크기가 증가함에 따라 SVM로 추정한 임계 온도가 정확한 값 Tc = 2 / ln(1 + √2)로 수렴하였다.
• 최적의 잠재공간 구조—특히 2개의 뉴런을 갖는 버팀목 층—은 상도를 기술하기 위해 필요한 독립 매개변수의 수와 일치하여 학습된 표현의 물리적 해석 가능성을 시사하였다.
• 잠재공간의 구조는 스핀 업/스핀 다운 대칭성을 드러내었고, 체계의 기초 물리적 질서를 반영하여 오토에인코더가 잡음이 아닌 의미 있는 물리적으로 관련된 특징을 학습했다는 것을 시사하였다.
• 이 방법은 PUD 모델의 세 가지 유형의 2차 전이—비례 임계 온도를 갖는 전이 포함—을 성공적으로 식별하였으며, 그 위치에 대한 사전 지식 없이도 가능했다.