[논문 리뷰] Group Convolutional Neural Networks Improve Quantum State Accuracy

Christopher G. Roth, A. H. MacDonald|arXiv (Cornell University)|2021. 04. 11.

Quantum many-body systems참고 문헌 39인용 수 26

한 줄 요약

논문은 group equivariant convolutional neural networks (G-CNNs)이 square 및 triangular 격자에서의 frustrated Heisenberg 모델의 기저 상태 에너지 정확도를 개선하고, triangular 격자에서 추가 메모리 오버헤드 없이 상태-예측 VMC 에너지에서 최첨단을 달성함.

ABSTRACT

Neural networks are a promising tool for simulating quantum many body systems. Recently, it has been shown that neural network-based models describe quantum many body systems more accurately when they are constrained to have the correct symmetry properties. In this paper, we show how to create maximally expressive models for quantum states with specific symmetry properties by drawing on literature from the machine learning community. We implement group equivariant convolutional networks (G-CNN) \cite{cohen2016group}, and demonstrate that performance improvements can be achieved without increasing memory use. We show that G-CNNs achieve very good accuracy for Heisenberg quantum spin models in both ordered and spin liquid regimes, and improve the ground state accuracy on the triangular lattice over other variational Monte-Carlo methods.

연구 동기 및 목표

• 대칭을 존중하는 신경망 상태를 활용하여 양자 다체 시뮬레이션의 정확도를 높이려는 동기 부여.
• discrete symmetry groups (wallpaper group)을 활용한 최대한 표현력이 높은 파동함수 모델을 개발.
• G-CNN이 J1-J2 Heisenberg 모델에서 대칭 평균화 모델 및 이전 신경망 양자 상태를 능가함을 입증.

제안 방법

• 그룹 등가 합성곱 신경망(G-CNN)을 전체 wallpaper 그룹(예: triangular 격자에 대해 p6m)의 등가 합성곱과 함께 도입한다.
• 격자 스핀 구성을 겹겹이 쌓은 등가 층과 비선형성을 통해 파동함수를 구성한 뒤, 각 그룹 임베딩을 대칭 특성으로 결합하여 최종 상태 진폭을 형성한다.
• SELU 활성화를 실수부/허수부에 적용해 학습을 안정화하고 gradient-based 방법(Adam)을 통해 최적화한다.
• 전체 G-CNN과 대칭 평균화된(대각/마스킹) 변형 간의 비교를 통해 전체 그룹 연결의 이점을 정량화한다.
• 필터 마스킹을 통해 G-CNN과 대칭 평균화 선형 모델 간의 매핑을 시연하여 모델 표현력 차이를 설명한다.

실험 결과

연구 질문

• RQ1 그룹 등가 합성곱이 이산 대칭 그룹에 대해 대칭 평균화 모델보다 더 정확한 양자 상태 근사를 제공하는가?
• RQ2 전체 wallpaper 그룹 대칭성(이전/회전/반사)을 포함하는 것이 square 및 triangular 격자에서 frustrated Heisenberg 모델의 기저 상태 에너지에 어떤 영향을 미치는가?
• RQ3 대각식 vs 비대각식 필터 연결이 모델 성능과 학습 효율성에 미치는 영향은 무엇인가?
• RQ4 G-CNN이 까다로운 스핀-액체 regimes에서 최첨단 변분 몬테 카를로 에너지를 달성하는가?

주요 결과

• G-CNN은 순서화된 상태와 스핀-액체 양쪽 영역에서 Heisenberg 모델에 대해 매우 좋은 정확도를 달성한다.
• 6x6 삼각 격자에서 G-CNN은 대략 -0.55922 (J2=0)와 -0.51365 (J2=J1/8)를 얻으며, 여러 VMC 방법을 개선하고 정확/DMRG 참조에 근접한다.
• 삼각 격자에서 J2=J1/8일 때 G-CNN 에너지는 많은 VMC 변형들보다 우수하며 추가 Lanczos 단계 없이도 여러 기준선과 경쟁적이거나 더 나은 성능을 보인다.
• 완전 연결성(마스킹에 반해)이 대칭 평균화 변형보다 더 나은 에너지를 제공하며, 평행 연결성이 매개변수 규모 증가로 인해 특히 큰 영향을 준다.
• 정사격 격자에서 G-CNN은 테스트된 모든 영역에서 기저 상태 에너지가 경쟁력 있거나 우수하며, 일부 경쟁 방법에 비해 메모리 대비 매개변수 비율이 유리하다.