[논문 리뷰] Neural Network Evolution Strategy for Solving Quantum Sign Structures

Ao Chen, Kenny Choo외 2명|arXiv (Cornell University)|2021. 11. 11.

Quantum, superfluid, helium dynamics인용 수 6

한 줄 요약

이 논문은 진동 전략(ES)을 통해 훈련되는 이산 부호 보조 네트워크를 사용하여 파동 함수의 진폭과 부호 구조를 분리하는 신경망 변분 안자(Ansatz)를 제안한다. 이는 기울기 없는 최적화 방법인 진동 전략(ES)을 사용한다. 이 방법은 3D의 불완전한 페로콜라이 허이젠베르크 스핀 모델에서 DMRG와 경쟁하는 변분 에너지를 달성하며, 이전의 NQS 방법보다 우수한 성능을 보이며, 부호 구조 학습에서의 확장성과 정확도 향상을 입증한다.

ABSTRACT

Feed-forward neural networks are a novel class of variational wave functions for correlated many-body quantum systems. Here, we propose a specific neural network ansatz suitable for systems with real-valued wave functions. Its characteristic is to encode the all-important rugged sign structure of a quantum wave function in a convolutional neural network with discrete output. Its training is achieved through an evolutionary algorithm. We test our variational ansatz and training strategy on two spin-1/2 Heisenberg models, one on the two-dimensional square lattice and one on the three-dimensional pyrochlore lattice. In the former, our ansatz converges with high accuracy to the analytically known sign structures of ordered phases. In the latter, where such sign structures are a priory unknown, we obtain better variational energies than with other neural network states. Our results demonstrate the utility of discrete neural networks to solve quantum many-body problems.

연구 동기 및 목표

• 신경망을 사용하여 양자 다체 파동 함수의 부호 구조를 정확하게 표현하고 최적화하는 데 도전한다.
• 실수 값 파동 함수에서 연속형 위상 신경망 상태의 한계를 극복하기 위해 이산 부호 네트워크를 도입한다.
• 기울기 없는 진화 알고리즘(ES)을 통해 비미분 가능 부호 네트워크의 효과적인 훈련을 가능하게 한다.
• 특히 부호 구조가 알려져 있지 않은 3D 모델에서 불완전한 양자 스핀 체계에서 변분 에너지 정확도를 향상시킨다.
• 제안된 아키텍처와 최적화 전략을 통해 대규모 시스템 크기에서의 확장성과 성능 향상을 입증한다.

제안 방법

• 변분 파동 함수는 ψ(σ) = ψ_b(σ) × ψ_h(σ)로 인과적으로 분해되며, ψ_b는 진폭을 위한 기본 네트워크이고, ψ_h는 이산 부호 보조 네트워크이다.
• 부호 보조 네트워크는 편향이 없는 한 층의 컨볼루션 아키텍처를 사용하며, 위상 합산을 통해 이산 부호 출력을 생성한다: φ(σ) = arg(∑j e^{iv_j(σ)}).
• 부호 네트워크의 출력은 ±1로 디지털화되어 부호 구조를 나타내며, 연속 복소 위상 네트워크에 존재하는 중복 위상 인자들을 피한다.
• 기울기 없는 인구 기반 최적화인 진동 전략(ES)을 사용하여 부호 네트워크를 최적화한다. 이는 비가역적 구성 요소의 훈련을 가능하게 한다.
• 기본 네트워크는 표준 역전파를 통해 훈련되며, 부호 네트워크는 독립적으로 ES를 통해 최적화되어 진폭과 부호의 공동 최적화가 가능하다.
• 이 방법은 2D 정사각형 및 3D 페로콜라이 허이젠베르크 모델에서 테스트되었으며, ED, DMRG 및 이전의 NQS 접근법과의 성능 비교가 이루어졌다.

실험 결과

연구 질문

• RQ1 진화 전략으로 훈련된 이산 부호 네트워크가 불완전한 양자 스핀 체계에서 변분 에너지 정확도를 향상시킬 수 있는가?
• RQ2 부호 구조를 비가역적 이산 네트워크로 분리함으로써 연속형 위상 신경망 상태보다 학습 성능이 향상되는가?
• RQ3 제안된 방법이 부호 구조가 알려져 있지 않은 3D 불완전 시스템에서 DMRG 수준의 변분 에너지를 달성할 수 있는가?
• RQ4 기본 네트워크와 부호 보조 네트워크의 조합이 변분 파동 함수의 표현력과 정확도에 어떤 영향을 미치는가?
• RQ5 ES로 최적화된 부호 네트워크는 특히 3D 격자에서 더 큰 시스템 크기로도 확장 가능한가?

주요 결과

• ES로 최적화된 이산 부호 네트워크는 3D 페로콜라이 허이젠베르크 모델에서 변분 에너지 정확도를 크게 향상시켰으며, 이는 이전의 모든 NQS 연구를 능가한다.
• 4×2³ 페로콜라이 격자에서 상대 에너지 오차가 0.003%이며, 정확한 기저 상태와의 제곱 중첩 값이 0.998로 높은 정밀도를 보였다.
• 모든 테스트된 클러스터 크기에서 이전의 최고 성능 NQS 방법(SR)보다 우수한 변분 에너지를 달성하였으며, 무한대 크기 외삽 시에도 에너지 향상이 유지되었다.
• 4×2²×3보다 큰 시스템 크기에서는 DMRG의 정확도에 가까워졌으며, 이는 더 큰 시스템으로의 확장성을 입증한다.
• 부호 보조 네트워크가 부호와 진폭 학습을 모두 향상시켰으며, 구성 요소 중 하나를 개선했을 때 에너지 오차 감소와 중첩 증가가 관찰되었다.
• 이산 부호 네트워크의 사용은 연속형 위상 NQS에 존재하는 중복 위상 인자들을 제거하여 더 효율적이고 정확한 최적화를 가능하게 하였다.