[論文レビュー] Constructive conditional normalizing flows

Borjan Geshkovski, Domènec Ruiz-Balet|arXiv (Cornell University)|Feb 9, 2026

Model Reduction and Neural Networks被引用数 0

ひとこと要約

本論文は、分解可能な速度場を用いた連続方程式のフローを通じて、微分同相とそのプッシュフォワードを近似する明示的・構成的手法を提供する。主な結果は、一般的な有限スイッチ構成と、滑らかな写像に対するスイッチ数を減らすためのより疎なスイッチ確率的アプローチの2点。

ABSTRACT

Motivated by applications in conditional sampling, given a probability measure $μ$ and a diffeomorphism $ϕ$, we consider the problem of simultaneously approximating $ϕ$ and the pushforward $ϕ_{\#}μ$ by means of the flow of a continuity equation whose velocity field is a perceptron neural network with piecewise constant weights. We provide an explicit construction based on a polar-like decomposition of the Lagrange interpolant of $ϕ$. The latter involves a compressible component, given by the gradient of a particular convex function, which can be realized exactly, and an incompressible component, which -- after approximating via permutations -- can be implemented through shear flows intrinsic to the continuity equation. For more regular maps $ϕ$ -- such as the Knöthe-Rosenblatt rearrangement -- we provide an alternative, probabilistic construction inspired by the Maurey empirical method, in which the number of discontinuities in the weights doesn't scale inversely with the ambient dimension.

研究の動機と目的

• ベース密度からの輸送写像とそのプッシュフォワードを近似したい場合に、条件付きサンプリングを動機づける。
• パーセプトロンベースの速度場を持つ連続方程式の時間-Tフローとして、ターゲットの微分同相とそのプッシュフォワードを実現する構成的スキームを開発する。
• 写像の測度保存成分と圧縮可能成分を明示的に分解・フロー実現する。
• スイッチの複雑さを低減する滑らかな微分同相のための確率的代替案を提供し、条件付きサンプリングの適用可能性について議論する。

提案手法

• ターゲットの微分同相 φ を、誤差を制御した分割的アフィイン線形補間 φ_ε によって近似する。
• φ_ε を極座標風の因子分解 φ_ε = m2_ε ∘ grad( varphi_ε ) ∘ m1_ε に分解する。ここで m1_ε および m2_ε は測度保存、grad(varphi_ε) は1つの座標方向を圧縮可能とする。
• 圧縮可能因子を、パッチワーク的に定数パラメータを持つニューラルODEのフローとして正確に実現する。
• 測度保存因子を、任意の測度保存写像を小さな立方体の置換に近似し、それらの置換を発散自由なスワップフローで実装することにより実現する。
• L^p近似がプッシュフォワードのTV制御を安定性推定を通じて導くことを証明し、写像誤差とプッシュフォワード測度誤差の境界を与える。
• Maurey の経験的方法にヒントを得た確率的構成を提供し、有限数のスイッチでフローを近似し、適切なSobolev正則性仮定の下で誤差が N^(-1/2) と減衰することを示す。

実験結果

リサーチクエスチョン

• RQ1 任意の与えられた微分同相は、piecewise-constant のパーセプトロン速度を持つ連続方程式の時間-T フローによって任意に良く近似できるか。
• RQ2 写像の近似とプッシュフォワード測度の全変動距離を同時に制御できるか。
• RQ3 測度保存成分と圧縮可能成分をフローで実現する際のスイッチ複雑さはどの程度か。
• RQ4 Knöthe–Rosenblatt 配列のような滑らかな写像に対して、確率的構成を用いてスイッチ数のスケーリングを改善できるか。
• RQ5 三角形的または Knöthe–Rosenblatt 型輸送を finite action A_s(phi) のD^s_0 フレームワーク内で実現できる条件は何か。

主な発見

• 定理1.1 は、任意の C^1-微分同相 φ と適切な密度について、矩形上で φ が L^p に良く近似され、プッシュフォワード測度が全変動で近接するよう、有限回のスイッチを持つ分割的定数制御が存在することを示す。
• 構成は φ_ε を 2 つの測度保存成分と圧縮可能な勾配成分に因数分解し、圧縮可能部分のフローを正確に実現すると同時に、測度保存部分は置換による実装（小立方体の置換）と、発散自由なスワップフローによる実装で実現可能である。
• 一般結果におけるスイッチ数は、測度保存写像をキューブの置換で最悪場合に近似することの影響で、最良でもおおよそ 1/ε^d のスケーリングになる。
• 定理1.2 は Maurey の経験的方法に基づく確率的構成を提供し、適切な Sobolev 正則性仮定（A_s(φ) が有限）下で、N 個以下のスイッチで近似を達成し、誤差が N^(-1/2) の割合で減衰する。
• 命題1.4 は Knöthe–Rosenblatt および C^s 正則性を持つ三角形写像が D^s_0 クラスに属し、有限の A_s(φ) を持つことを示し、提案された構成に適用可能である。
• 本論文は L^p 写像近似が一般にはプッシュフォワードの TV 距離を小さくすることを意味しない点を明らかにし、TV 制御には圧縮可能成分の役割が重要であることを強調する。