[論文レビュー] Prediction of the atomistic Hubbard U interaction from moiré system STM-images using image recognition

Nachiket Anil Tanksale, Tobias Stauber|arXiv (Cornell University)|Feb 21, 2026

Graphene research and applications被引用数 0

ひとこと要約

本論文はCNNベースの回帰を用いて、 flat-band領域における twistd bilayer graphene の simulated STM FT-LDOS 画像からオンサイト Hubbard U を推定する。高精度を達成し、U/t ≈ 1 付近で弱結合〜強結合の転換カ crossover を示唆。

ABSTRACT

The atomistic Hubbard interaction U, representing the on-site Coulomb repulsion, serves as a pivotal parameter in theoretical models describing of correlated systems, yet its precise experimental determination especially in moiré systems remains challenging. Scanning Tunneling Microscopy(STM) provides real-space images of the local density of states (LDOS), offering rich data sets that reflect the unique electronic structure of the material. Here, we introduce a systematic methodology for extracting the Hubbard U parameter directly from these LDOS images through the application of machine learning (ML) in the case of twisted bilayer graphene in the flat-band regime. The regression of U is highly accurate even though the image-similarity is greater than 99.98%. Subsequent data-analysis further suggest a weak crossover between the weak and strong coupling regime at Uc/t 1

研究の動機と目的

• 平坦バンド領域で twistd 二層グラフェンの STM-like FT-LDOS 画像から効果的なオンサイト Hubbard 相互作用 U を直接推定する。
• CNN が FT-LDOS データから U を高い画像類似性にもかかわらず正確に回帰できることを示す。
• 予測を駆動する運動量空間の特徴を特定するためのモデル解釈性を探る。
• 訓練範囲内外での補間・外挿能力（分数値を含む）を評価する。
• 相関モアレー材料におけるハミルトニアン学習のデータ駆動フレームワークを提供する。

提案手法

• θ ≈ 3.5°で平坦バンド領域を実現するための水圧下の Hartree–Fock モデルを解いてデータセットを生成し、U を [0,6] eV、ε = 10 の条件で評価。
• εF における LDOS およびそのフーリエ変換（FT-LDOS）を計算して STM 画像を模擬し、正規化後に 256×256 グレースケール入力を生成。
• FT-LDOS 画像を U にマップする 2 つの CNN 回帰器（カスタムの 4 ブロック CNN と ResNet-18 の変種）を訓練し、平均二乗誤差損失を使用。
• テストセットおよび保持された分数 U 値での評価を MAE、RMSE、R² で行い、補間・外挿を検証。
• Grad-CAM および guided backpropagation を適用して、予測を駆動する運動量空間領域とピクセルを局在化。
• CNN の性能を PCA+リッジ回帰の基線と比較して、非線形特徴の利用を強調。

Figure 1 : (A) Hartree-Fock bands at filling $\nu=3$ setting the Fermi energy $\epsilon_{F}$ to zero with $\epsilon=10$ obeying all symmetries, for $U=0$ – $5$ eV. (B) Density of states of the upper two flat bands for the same parameters.

実験結果

リサーチクエスチョン

• RQ1 モアレー系の FT-LDOS STM-like 画像からオンサイト Hubbard 相互作用 U を直接回帰できるか。
• RQ2 U の変化と相関する FT-LDOS の運動量空間特徴は何か、解釈可能性ツールはこれらの特徴を明らかにできるか。
• RQ3 CNN は離散的に訓練された U グリッド内での補間と、訓練セットになく fractional な U 値への外挿をどの程度うまく行えるか。
• RQ4 U が変化する際に弱結合と強結合の転換が検出可能か、どこで発生するか。
• RQ5 CNN ベースのアプローチは高次元の STM データから U を抽出する際、線形ベースラインと比較してどうか。

主な発見

Model	MAE (eV)	RMSE (eV)	R²
CNN (test)	0.14±0.03	0.21±0.02	0.984±0.003
CNN (held-out)	0.50±0.08	0.54±0.07	0.87±0.04
ResNet-18 (test)	0.12±0.02	0.21±0.04	0.985±0.006
ResNet-18 (held-out)	0.49±0.02	0.57±0.02	0.85±0.01

• CNN は FT-LDOS 画像からの U の回帰を高い精度で達成し、標準のテストセットで R² ≈ 0.984–0.985。
• 分数 U 値に対する保持データでの性能は低下（R² ≈ 0.87–0.88）、訓練範囲を超える外挿は限定的。
• PCA は強い低次元データ構造を示し（PC1 56.8%、PC2 26.8%、PC3 6.1%）、PC1 は U に対して単調な依存を示す。
• Grad-CAM および guided backpropagation は回帰が Bragg 点近くの運動量空間領域とそれらのコントラストに依存することを示し、U に応じて変化。
• U/t ≈ 1–2.7 eV の周辺で転換が推定され、Grad-CAM のパターンと PCA の傾向で支持される。
• 主成分に対するリッジ回帰と比較して、CNN は回帰性能が顕著に優れている（MAE ≈ 0.12–0.14 eV 対基準 ~0.91 R²）。

Figure 2 : Fourier-transformed LDOS (FT-LDOS) for $\nu=-2$ and $\epsilon=12$ in the valley-coherence symmetry broken state, as discussed in Ref. Sánchez Sánchez et al. , 2024 . The principal Bragg peaks (black arrows) are located at the reciprocal lattice vectors of the two rotated graphene layers,