[论文解读] Prediction of the atomistic Hubbard U interaction from moiré system STM-images using image recognition

Nachiket Anil Tanksale, Tobias Stauber|arXiv (Cornell University)|Feb 21, 2026

Graphene research and applications被引用 0

一句话总结

论文开发基于卷积神经网络的回归，用于从扭曲双层石墨烯在平带区的仿STM FT-LDOS图像中推断现场哈伯U，获得高精度，并揭示约在 U/t ≈ 1 附近的弱—强耦合跨越。

ABSTRACT

The atomistic Hubbard interaction U, representing the on-site Coulomb repulsion, serves as a pivotal parameter in theoretical models describing of correlated systems, yet its precise experimental determination especially in moiré systems remains challenging. Scanning Tunneling Microscopy(STM) provides real-space images of the local density of states (LDOS), offering rich data sets that reflect the unique electronic structure of the material. Here, we introduce a systematic methodology for extracting the Hubbard U parameter directly from these LDOS images through the application of machine learning (ML) in the case of twisted bilayer graphene in the flat-band regime. The regression of U is highly accurate even though the image-similarity is greater than 99.98%. Subsequent data-analysis further suggest a weak crossover between the weak and strong coupling regime at Uc/t 1

研究动机与目标

• 直接从扭曲双层石墨烯在平带区的 STM-like FT-LDOS 图像中推断有效的在位哈伯相互作用 U。
• 证明尽管在不同的 U 值下图像高度相似，CNN 仍能准确回归 U。
• 探索模型可解释性，识别驱动 U 回归的动量空间特征。
• 评估插值与外推能力，包括在训练范围内的分数 U 值以及超出训练集合的情况。
• 提供一个基于数据驱动的框架，用于相关莫尔材料中的哈密顿量学习。

提出的方法

• 通过在水平方向静水压下求解扭曲双层石墨烯的Hartree–Fock模型以实现 θ ≈ 3.5° 的平带区，令 U ∈ [0,6] eV，ε = 10。
• 计算 LDOS 及其傅里叶变换（FT-LDOS），以模拟 εF 下的 STM 图像，并在归一化后生成 256×256 的灰度输入。
• 训练两种 CNN 回归器（一个自定义的 4 块卷积网络和一个 ResNet-18 变体），将 FT-LDOS 图像映射到 U，使用均方误差损失。
• 在测试集和保留的分数 U 值上用 MAE、RMSE 和 R² 评估性能，以探查插值与外推能力。
• 应用 Grad-CAM 和引导反向传播来定位驱动预测的动量空间区域和像素。
• 将 CNN 的性能与基线 PCA+岭回归进行比较，以突出非线性特征的利用。

Figure 1 : (A) Hartree-Fock bands at filling $\nu=3$ setting the Fermi energy $\epsilon_{F}$ to zero with $\epsilon=10$ obeying all symmetries, for $U=0$ – $5$ eV. (B) Density of states of the upper two flat bands for the same parameters.

实验结果

研究问题

• RQ1 机器学习是否能够直接从莫尔系统中的 FT-LDOS STM-like 图像回归在位哈伯相互作用 U？
• RQ2 在动量空间中哪些 FT-LDOS 特征与 U 的变化相关，解释性工具是否能揭示这些特征？
• RQ3 CNN 在离散训练的 U 网格内插值和对训练集中未出现的分数 U 的外推能力有多强？
• RQ4 随着 U 的变化，是否存在弱耦合与强耦合之间的跨越，以及发生在哪？
• RQ5 与在高维 STM 数据中提取 U 的线性基线相比，基于 CNN 的方法有何优势？

主要发现

Model	MAE (eV)	RMSE (eV)	R²
CNN (test)	0.14±0.03	0.21±0.02	0.984±0.003
CNN (held-out)	0.50±0.08	0.54±0.07	0.87±0.04
ResNet-18 (test)	0.12±0.02	0.21±0.04	0.985±0.006
ResNet-18 (held-out)	0.49±0.02	0.57±0.02	0.85±0.01

• CNNs 能从 FT-LDOS 图像中实现对 U 的高精度回归，在标准测试集上的 R² 约为 0.984–0.985。
• 对分数 U 值的保留测试在插值方面的表现下降（R² 约为 0.87–0.88），表明对训练 U 范围之外的外推能力有限。
• PCA 显示数据具有强低维结构（PC1 占比 56.8%，PC2 26.8%，PC3 6.1%），PC1 与 U 因变量呈单调关系。
• Grad-CAM 与引导反向传播显示回归依赖于 Bragg 峰附近的动量空间区域及其对比度，且随 U 的变化而演变。
• 在 U/t ≈ 1–2.7 eV 附近存在推断出的跨越，得到 Grad-CAM 图样与 PCA 趋势的支持。
• 与对主成分的岭回归相比，CNN 提供明显更好的回归性能（MAE ~0.12–0.14 eV 而基线 ~ 0.91 R²）。

Figure 2 : Fourier-transformed LDOS (FT-LDOS) for $\nu=-2$ and $\epsilon=12$ in the valley-coherence symmetry broken state, as discussed in Ref. Sánchez Sánchez et al. , 2024 . The principal Bragg peaks (black arrows) are located at the reciprocal lattice vectors of the two rotated graphene layers,