[论文解读] Interaction-driven topological phase diagram of twisted bilayer MoTe$_2$

Wen-Xuan Qiu, Bohao Li+2 more|arXiv (Cornell University)|May 1, 2023

2D Materials and Applications被引用 7

一句话总结

本研究针对扭曲双层MoTe₂提出一个三轨道有效模型，以探究关联驱动的拓扑量子相，揭示了由扭转角θ调控的丰富量子相图。研究预测在ν=1（空穴填充）时，随着θ从1.5°增至5°，相变序列为多铁性相→量子反常霍尔相→平凡磁性相；在ν=2时，出现自旋-轨道耦合与屏蔽效应依赖的反铁磁与量子自旋霍尔相之间的二级相变。

ABSTRACT

Twisted bilayer MoTe$_2$ is a promising platform to investigate the interplay between band topology and many-body interaction. We present a theoretical study of its interaction-driven quantum phase diagrams based on a three-orbital model, which can be viewed as a generalization of the Kane-Mele-Hubbard model with one additional orbital and long-range Coulomb repulsion. We predict a cascade of phase transitions tuned by the twist angle $θ$. At the hole filling factor $ν=1$ (one hole per moiré unit cell), the ground state can be in the multiferroic phase with coexisting spontaneous layer polarization and magnetism, the quantum anomalous Hall phase, and finally the topologically trivial magnetic phases, as $θ$ increases from $1.5^{\circ}$ to $5^{\circ}$. At $ν=2$, the ground state can have a second-order phase transition between an antiferromagnetic phase and the quantum spin Hall phase as $θ$ passes through a critical value. The dependence of the phase boundaries on model parameters such as the gate-to-sample distance, the dielectric constant, and the moiré potential amplitude is examined. The predicted phase diagrams can guide the search for topological phases in twisted transition metal dichalcogenide homobilayers.

研究动机与目标

• 构建一个统一的理论框架，用于研究在多种扭转角下扭曲双层MoTe₂中的多体相互作用。
• 识别并表征由电子关联驱动的竞争性量子相，如量子反常霍尔相、多铁性相及拓扑 trivial 磁性相。
• 考察扭转角、栅极-样品距离、介电常数及莫尔势垒振幅等关键参数对相边界的影响。
• 将三轨道模型与单带和双带近似进行对比，验证其在捕捉竞争相方面的优越性。
• 提供一个可预测的相图，以指导过渡金属二硫属化物同质结中拓扑态的实验探索。

提出的方法

• 基于前三个莫尔能带的Wannier态构建三轨道有效哈密顿量，以捕捉亚晶格、谷和层自由度。
• 应用哈特里-福克平均场理论求解包含长程库仑排斥和自旋-轨道耦合的相互作用哈密顿量。
• 通过自洽数值求解平均场方程，识别对称性破缺态，包括自发的亚晶格和层极化。
• 比较单带、双带与三轨道模型的结果，评估引入第三轨道对准确描述相态的必要性。
• 计算电荷能隙与费米面嵌套性，分析电荷密度波与自旋密度波序等不稳定性。
• 系统性地改变模型参数（如V/t₀、t′₁/t₀、介电常数）以绘制不同扭转角与填充因子下的相边界。

Figure 1: (a) Moiré superlattices formed in $t$ MoTe 2 . The dots with green, red, and blue colors indicate, respectively, $O$ , $A$ , and $B$ sites, which also correspond to the centers of the three Wannier orbitals. The black dashed lines mark a moiré unit cell. (b), (c) Moiré band structure at $\

实验结果

研究问题

• RQ1 扭转角θ如何调控扭曲双层MoTe₂在ν=1时拓扑相与磁性相的竞争？
• RQ2 第三轨道在稳定三轨道模型中超出两带Kane-Mele-Hubbard模型的拓扑 trivial 磁性相与多铁性相中起何作用？
• RQ3 介电屏蔽与莫尔势垒振幅如何影响量子反常霍尔相与反铁磁相的稳定性？
• RQ4 为何单带与双带模型无法捕捉完整的相图，特别是O-120° AF±与FMz相？
• RQ5 量子反常霍尔相中的电荷能隙性质为何？其在不同模型截断中如何差异？

主要发现

• 在ν=1时，基态随θ从1.5°增至5°，依次经历多铁性相（具有自发层极化与磁性）→量子反常霍尔相（QAHI）→拓扑 trivial 的FMz相，表明存在由扭转角驱动的级联相变。
• 三轨道模型正确捕捉了大扭转角（θ=4.5°）下的O-120° AF±态，其源于费米面嵌套（嵌套矢量Q ≈ κ₋ − κ₊），而单带与双带模型均未能再现此特征。
• 在θ=2°–2.9°范围内，QAHI相在所有模型中均为基态，但三轨道模型预测的电荷能隙小于单带或双带模型，这是由于同一谷内不同轨道间的电荷转移机制所致。
• 在临界库仑相互作用V/t₀以上，自发的亚晶格极化（ρz ≠ 0）出现，这与小θ下LP-FMz态的形成相关，且由于轨道-层对应关系，该极化诱导出层极化。
• 相边界对介电屏蔽与莫尔势垒振幅敏感：介电常数增大可稳定QAHI相，并降低磁性有序的临界V值。
• 基于平面波基组的哈特里-福克计算所得量子相图与三轨道模型定量一致，验证了其作为低能物理最小且精确有效描述的可靠性。

Figure 2: The amplitude of each layer component of Wannier states $W^{n\tau}(\bm{r})=\left[W_{b}^{n\tau}(\bm{r}),W_{t}^{n\tau}(\bm{r})\right]^{T}$ for $\theta=2.5^{\circ}$ and $\tau=+$ . The black lines mark the effective triangular lattice formed by $O$ sites.