[논문 리뷰] Fractional Chern Insulators vs. Non-Magnetic States in Twisted Bilayer MoTe$_2$

Jiabin Yu, Jonah Herzog-Arbeitman외 4명|arXiv (Cornell University)|2023. 09. 25.

Topological Materials and Phenomena인용 수 6

한 줄 요약

이 연구는 하트리-폭크 및 정확한 대각화 계산을 통해 비틀어진 이중층 MoTe₂에서 분수형 카르탕 도전자 상태(Fractional Chern Insulator, FCI) 상태와 비자기 상태 간의 경쟁을 조사한다. 실험적으로 관측된 ν = −2/3에서의 FCI와 ν = −1에서의 카르탕 도전자 상태는 현실적인 매개변수로 재현 가능하지만, ν = −1/3 및 −4/3에서의 비자기 상태는 더 큰 유전율(ε > 10)과 원거리 밴드의 포함이 필요하며, 이는 입자-공공 대칭성에도 불구하고 자성을 억제하는 데 기여한다.

ABSTRACT

Fractionally filled Chern bands with strong interactions may give rise to fractional Chern insulator (FCI) states, the zero-field analogue of the fractional quantum Hall effect. Recent experiments have demonstrated the existence of FCIs in twisted bilayer MoTe$_2$ without external magnetic fields -- most robust at $ν=-2/3$ -- as well as Chern insulators (CIs) at $ν=-1$. Although the appearance of both of these states is theoretically natural in an interacting topological system, experiments repeatedly observe nonmagnetic states (lacking FCIs) at $ν=-1/3$ and $-4/3$, a puzzling result which has not been fully theoretically explained. In this work, we perform Hartree-Fock and exact diagonalization calculations to test whether the standard MoTe$_2$ moiré model with the (greatly varying) parameter values available in the literature can reproduce the non-magnetic states at $ν=-1/3$ and $-4/3$ in unison with the FCI at $ν=-2/3$ and CI state at $ν= -1$. We focus on the experimentally relevant twist angles and, crucially, include remote bands. We find that the parameters proposed in [Wang et al. (2023)] can nearly capture the experimental phenomena at $ν=-1/3,-2/3,-1,-4/3$ simultaneously, though the predicted ground states at $ν=-1/3$ are still mostly fully-spin-polarized and a larger dielectric constant $ε>10$ than is typical of hexagonal boron nitride (h-BN) substrate $ε\sim 6$ is required. Our results show the importance of remote bands in identifying the competing magnetic orders and lay the groundwork for further study of the realistic phase diagram.

연구 동기 및 목표

• 비틀어진 이중층 MoTe₂에서 ν = −1/3 및 −4/3에서 관측된 비자기 상태의 이론적 난제를 해결하기 위해, ν = −2/3에서의 FCI 존재에도 불구하고 이러한 상태가 어떻게 발생하는지를 이해하는 것.
• 실제 매개변수를 사용한 MoTe₂의 표준 모리 모델이 ν = −2/3에서의 FCI, ν = −1에서의 카르탕 도전자 상태, 그리고 ν = −1/3 및 −4/3에서의 비자기 상태를 동시에 재현할 수 있는지 테스트하는 것.
• 원거리 밴드가 경쟁하는 자성 순서를 안정화시키고 상도표에 미치는 영향을 조사하는 것.
• 기저 상태가 유전율 스크리닝(ε)에 얼마나 민감한지 평가하며, 특히 비자기 상태를 안정화시키기 위해 ε > 10가 필요한지 확인하는 것.
• ν = −1/3 및 ν = −2/3에서의 입자-공공 대칭성이 유사한 FCI 행동을 유도하는지 여부, 또는 다체 효과에 의해 깨지는지 여부를 판단하는 것.

제안 방법

• 다양한 필링에서 다체 기저 상태를 연구하기 위해 3×3 및 3×4 초세포에서 하트리-폭크 및 정확한 대각화(ED) 계산을 수행한다.
• 왕 등(2023)의 결과에서 유도된 연속 모리 모델을 사용하며, 스핀-오르빗 결합 및 밸리 극성화를 포함한다.
• 최저 카르탕 밴드를 초월한 원거리 밴드를 포함하여, 자성 순서 및 FCI 안정성에 미치는 영향을 평가한다.
• 완전히 스핀 극성화된 영역에서 (kx,ky) = (0,0), (1,0), (2,0)에서의 삼중도가지가 발생하는 조건(제안 1)을 기반으로 FCI 상태를 식별한다.
• 스핀 갭과 오염수 분포 ⟨nₖ⟩를 계산하여 FCI 상태와 경쟁하는 전하 밀도파(CDW) 또는 자성 순서를 구분한다.
• 유전율 ε를 5에서 25로 변화시켜 비자기 상태와 자성 상태의 안정성에 미치는 영향을 테스트한다.

실험 결과

연구 질문

• RQ1 실제 매개변수를 사용한 표준 MoTe₂ 모리 모델이 실험적으로 관측된 ν = −1/3 및 −4/3에서의 비자기 상태를 재현할 수 있는가?
• RQ2 최저 밴드에서 입자-공공 대칭성이 존재하는 데도 불구하고, ν = −2/3에서 FCI 상태는 안정한 반면 ν = −1/3에서는 FCI 상태가 없는 이유는 무엇인가?
• RQ3 원거리 밴드가 FCI보다 경쟁하는 자성 또는 전하 정렬 상태를 안정화시키는 데 어떤 역할을 하는가?
• RQ4 상도표는 유전율 스크리닝 상수 ε에 얼마나 민감한가? 비자기 상태를 안정화시키기 위해 ε > 10가 필요한가?
• RQ5 ν = −1/3에서 FCI 상태가 없는 것은 작은 FCI 갭 때문인지, 아니면 스핀 극성화에 대한 근본적인 불안정성 때문인가?

주요 결과

• 왕 등(2023)의 매개변수로는 실험 상도표를 거의 완벽하게 재현할 수 있으며, ν = −2/3에서의 FCI, ν = −1에서의 카르탕 도전자 상태, 그리고 ν = −1/3 및 −4/3에서의 비자기 상태를 포함한다.
• ν = −1/3에서 기저 상태는 여전히 완전히 스핀 극성화되어 있으며, ν = −2/3에 비해 훨씬 작은 스핀 갭을 보이며 자성에 대한 불안정성을 시사한다.
• ν = −2/3에서의 FCI 상태는 삼중도가지 조건(제안 1)을 충족하며 큰 갭을 보이며 안정성을 확인한다.
• ν = −1/3에서 FCI 조건은 FCI 운동량에서 가장 낮은 세 상태의 분포가 더 넓고 기저 상태와 비퇴화 상태임에도 불구하고 실패한다. 이는 작은 갭에도 불구하고 성립하지 않는다.
• ν = −1/3 및 −4/3에서 비자기 상태를 안정화시키기 위해 유전율 ε > 10가 필요하며, 이는 일반적인 h-BN 기반재의 값(ε ≈ 6)을 초월한다.
• 원거리 밴드는 FCI와 자성 상태 간의 경쟁을 설명하는 데 필수적이며, 이들을 생략할 경우 ν = −1/3에서 잘못된 FCI 상태 예측을 초래한다.