[論文レビュー] Score-based Metropolis-Hastings for Fractional Langevin Algorithms

Ahmed Aloui, Junyi Liao+3 more|arXiv (Cornell University)|Jan 31, 2026

Markov Chains and Monte Carlo Methods被引用数 0

ひとこと要約

MAFLA は、分布が非可算で推定困難なターゲットと提案密度を持つ分数 Langevin サンプラーに対する Metropolis 調整付きスコアベース補正を導入し、Score Balance Matching を用いて受理関数と密度フリーの提案スコア代替量を学習します。

ABSTRACT

Sampling from heavy-tailed and multimodal distributions is challenging when neither the target density nor the proposal density can be evaluated, as in $α$-stable Lévy-driven fractional Langevin algorithms. While the target distribution can be estimated from data via score-based or energy-based models, the $α$-stable proposal density and its score are generally unavailable, rendering classical density-based Metropolis--Hastings (MH) corrections impractical. Consequently, existing fractional Langevin methods operate in an unadjusted regime and can exhibit substantial finite-time errors and poor empirical control of tail behavior. We introduce the Metropolis-Adjusted Fractional Langevin Algorithm (MAFLA), an MH-inspired, fully score-based correction mechanism. MAFLA employs designed proxies for fractional proposal score gradients under isotropic symmetric $α$-stable noise and learns an acceptance function via Score Balance Matching. We empirically illustrate the strong performance of MAFLA on a series of tasks including combinatorial optimization problems where the method significantly improves finite time sampling accuracy over unadjusted fractional Langevin dynamics.

研究の動機と目的

• densities が不可能な場合における重尾・多峰ターゲットからのサンプリングを動機付ける。
• スコア情報を用いた密度フリーのFractional Langevin ダイナミクスの Metropolis 調整を開発する。
• Score Balance Matching によって受理関数を学習し、勾配レベルのディテールバランスを施す。
• 合成の重尾ターゲットと組合せ問題に対する有限時間サンプリングと最適化性能の改善を実証する。

提案手法

• 提案分布を等方かつ対称な alpha-stable の位置分布ファミリとしてモデル化し、密度評価なしで計算可能な提案スコアの代理量を導出する。
• スケール因子 c_alpha と安定ノイズ項 (tau^{1/alpha})xi によって目標スコアを用いた分数漂移を近似する。
• 密度評価を回避する勾配ベースの提案と近似提案スコア（式 (Eq. 11)）を導出する。
• Score Balance Matching によって受理ネットワーク a_phi を訓練し、密度評価なしで勾配形式の詳細なバランスを施す（式 (Eqs. 12-16)）。
• エントロピーレギュラリゼーションを用いて発散的な受理率を回避し探索を促進する（式 (Eq. 18)）。
• MAFLA を、スコアベースのドリフト、 Levy ノイズ、 SBM 学習済み受理を組み合わせた並行・多初期化アルゴリズムとして実装する（アルゴリズム 1）。

Figure 1 : Illustration of symmetric $\alpha$ -stable distributions for different tail indices $\alpha$ . Smaller $\alpha$ yields heavier tails and higher peak near the origin.

実験結果

リサーチクエスチョン

• RQ1 分数 Langevin サンプラーに対して、難解な密度を評価せずに Metropolis 種の補正を実装できるか。
• RQ2 密度フリーでスコアベースの補正は重尾ターゲットに対する有限時間のサンプリング精度を改善するか。
• RQ3 Score Balance Matching を介して受理関数を学習することは、分数 Levy 設定における詳細なバランスを保証するか。
• RQ4 MAFLA は連続緩和を通じて組合せ最適化タスクでどの程度、未調整の FULA や古典的 MCMC 法と比べて優れているか。

主な発見

• MAFLA は重尾ターゲットに対する FULA より有限時間サンプリング精度を向上させる（ワッサースタイン距離と尾部誤差が小さくなる）。
• MAFLA は 2 成分 alpha-stable 混合における混合比の推定誤差と尾部分位の推定を FULA と比べて低減する。
• MAFLA の性能は提案安定性指標 alpha_prop の誤指定やステップサイズの変動に対して頑健で、複数の領域で FULA を上回る。
• MAFLA は BA および ER グラフにおける MaxCut および頂点被覆の結果で、報告された実験において ULA、FULA、MALA を上回る。
• 次元が増加しても MAFLA は FULA に対して優れた性能を維持し、尾部誤差と分布精度の顕著な改善を示す。

(a) Target data. Mixture weights $(0.2,0.8)$ .