[논문 리뷰] Adversarial Domain Adaptation for Identifying Phase Transitions.

Patrick Huembeli, Alexandre Dauphin외 1명|arXiv (Cornell University)|2017. 10. 11.

Machine Learning in Materials Science인용 수 1

한 줄 요약

이 논문은 복잡한 many-body 시스템에서의 양자 상전이를 비지도 딥러닝을 사용하여 식별하기 위해 적대적 도메인 적응을 제안한다. 해석 가능한 모델에서의 레이블이 부여된 데이터를 학습하고, 레이블이 없는 알려지지 않은 시스템으로 특징을 적응시킴으로써, 수동적인 특징 공학 없이도 정확하게 상전이를 예측한다. 이 방법은 이징, 보즈-허버드, SSH 모델에서 알려진 상전이를 성공적으로 복원한다.

ABSTRACT

The identification of phases of matter is a challenging task, especially in quantum mechanics, where the complexity of the ground state appears to grow exponentially with the size of the system. We address this problem with state-of-the-art deep learning techniques: adversarial domain adaptation. We derive the phase diagram of the whole parameter space starting from a fixed and known subspace using unsupervised learning. The input data set contains both labeled and unlabeled data instances. The first kind is a system that admits an accurate analytical or numerical solution, and one can recover its phase diagram. The second type is the physical system with an unknown phase diagram. Adversarial domain adaptation uses both types of data to create invariant feature extracting layers in a deep learning architecture. Once these layers are trained, we can attach an unsupervised learner to the network to find phase transitions. We show the success of this technique by applying it on several paradigmatic models: the Ising model with different temperatures, the Bose-Hubbard model, and the SSH model with disorder. The input is the ground state without any manual feature engineering, and the dimension of the parameter space is unrestricted. The method finds unknown transitions successfully and predicts transition points in close agreement with standard methods. This study opens the door to the classification of physical systems where the phases boundaries are complex such as the many-body localization problem or the Bose glass phase.

연구 동기 및 목표

• 지수적 복잡도로 인해 해석이 불가능한 많은 양자 다체계에서의 양자 상전이 식별 문제를 해결하기 위해.
• 기존에 해석 가능한 모델에서의 상도메인 지식을 복잡하거나 알려지지 않은 상경계를 가진 알려지지 않은 시스템으로 일반화하기 위해.
• 다양한 물리적 영역 간의 불변 표현을 학습함으로써 수동적인 특징 공학의 필요성을 제거하기 위해.
• 다체 국부화 상 또는 보즈 글라스 상과 같은 시스템에서 알려지지 않은 상전이를 발견할 수 있도록 하기 위해.

제안 방법

• 딥 네트워크 내에서 레이블이 부여된(해석 가능한) 시스템과 레이블이 없는(알 수 없는) 물리적 시스템 간의 특징 분포를 적대적 도메인 적합을 통해 정렬한다.
• 레이블이 부여된 데이터와 레이블이 없는 데이터의 표현이 도메인 간에 구분되지 않도록 하는 적대적 손실을 사용해 공통 특징 추출기를 훈련시킨다.
• 도메인 디스criminator를 사용해 도메인 불변성을 강제함으로써, 추출된 특징이 매개변수 공간의 변동성에 대해 강건함을 확보한다.
• 훈련된 특징 추출기에 비지도 클러스터링 헤드를 부착하여 잠재 표현으로부터 상전이를 탐지한다.
• 사전 특징 공학이나 대칭성 가정 없이도 직접 기저 상태 웨이브패킷에 프레임워크를 적용한다.
• 임의의 차원의 매개변수 공간으로 확장 가능하여, 복잡한 상도메인 탐색이 가능하다.

실험 결과

연구 질문

• RQ1 적대적 도메인 적합이 해석 가능한 모델에서의 상도메인 지식을 복잡한 상경계를 가진 알려지지 않은 양자 시스템으로 이행할 수 있는가?
• RQ2 이 방법이 상의 구조에 대한 사전 지식 없이도 시스템에서 상전이를 얼마나 잘 탐지할 수 있는가?
• RQ3 기존의 수치적 또는 해석적 방법과 비교해 이 방법이 알려진 전이 점을 얼마나 정확하게 예측할 수 있는가?
• RQ4 이 방법이 강한 상관관계, 불순물 또는 토폴로지적 복잡성(예: 불순물이 있는 SSH 모델)을 가진 시스템으로 일반화될 수 있는가?

주요 결과

• 이 방법은 다양한 온도에서 이징 모델의 상전이를 정확하게 식별하여 알려진 임계점과 높은 정확도로 일치시킨다.
• 보즈-허버드 모델에서는 슈퍼유체-몰트 인슐레이터 전이를 기존의 수치 기법과 비교해 유사한 정밀도로 예측한다.
• 불순물이 있는 SSH 모델에서는 명확한 질서 파라미터가 없음에도 불구하고 토폴로지적 상전이를 탐지한다.
• 인퍼런스 중에 레이블이 부여된 전이 점이 전혀 없더라도, 적응된 특징에 비지도 클러스터링 헤드를 적용해 올바르게 상경계를 식별한다.
• 훈련 또는 아키텍처 변경 없이도 다양한 매개변수 공간, 특히 고차원 공간으로도 일반화된다.
• 수동적인 특징 공학이 없기에, 기존 방법이 복잡성 또는 질서 파라미터 부족으로 실패하는 시스템에서도 전이를 발견할 수 있다.