[論文レビュー] Efficient Learning of Generative Models via Finite-Difference Score Matching

Tianyu Pang, Kun Xu+4 more|arXiv (Cornell University)|Jul 7, 2020

Model Reduction and Neural Networks被引用数 11

ひとこと要約

本稿では、スコアマッチングにおける高階微分の計算を、効率的で並列化可能な関数評価に置き換える有限差分（FD）スコアマッチング手法を提案する。方向微分を有限差分で近似するスコアマッチング目的関数の再定式化により、計算コストを最大2.5倍まで削減しつつ、モデル性能を維持し、数値安定性を向上させた。

ABSTRACT

Several machine learning applications involve the optimization of higher-order derivatives (e.g., gradients of gradients) during training, which can be expensive in respect to memory and computation even with automatic differentiation. As a typical example in generative modeling, score matching (SM) involves the optimization of the trace of a Hessian. To improve computing efficiency, we rewrite the SM objective and its variants in terms of directional derivatives, and present a generic strategy to efficiently approximate any-order directional derivative with finite difference (FD). Our approximation only involves function evaluations, which can be executed in parallel, and no gradient computations. Thus, it reduces the total computational cost while also improving numerical stability. We provide two instantiations by reformulating variants of SM objectives into the FD forms. Empirically, we demonstrate that our methods produce results comparable to the gradient-based counterparts while being much more computationally efficient.

研究の動機と目的

• スコアマッチング手法における高階微分（例：ヘッセ行列のトレース）の最適化にかかる高い計算コストに対処すること。
• 従来のスコアマッチング変種における逐次的勾配計算の非効率性と数値不安定性を克服すること。
• バックプロパゲーションを必要とせず、任意の順序の方向微分を近似できる汎用的で並列化可能な手法を開発すること。
• 正規化定数の計算が困難な未正規化生成モデル（例：エネルギーベースモデルやノーマライジングフロー）の効率的トレーニングを可能にし、分割関数依存性を排除すること。
• 勾配ベースのスコアマッチングと同等の性能を達成しつつ、トレーニング時間とメモリ使用量を大幅に削減すること。

提案手法

• スコアマッチング目的関数（例：SSM、DSM）を2階方向微分の観点から再定式化する。
• 関数評価のみを用いて任意の順序の方向微分を近似する有限差分（FD）近似法を提案する。
• 高階勾配計算を独立的で並列化可能な関数評価に分解し、計算グラフの深さを低減する。
• ステップサイズ ε = 0.1 を用いた対称的FDスキームを採用し、方向微分を効率的に近似する。
• 弱い条件下でも、FDに基づく目的関数が勾配ベースの対応物と漸近的に一貫することを示す。
• 未正規化モデルにFD再定式化を適用し、目的関数内で計算困難な分割関数が相殺されることを確認する。

実験結果

リサーチクエスチョン

• RQ1 有限差分近似は、スコアマッチングにおける高階勾配計算を、性能の損失を最小限に抑えつつ置き換え可能か？
• RQ2 提案手法であるFDベースのスコアマッチングは、勾配ベース手法と比較して、計算効率と数値安定性に優れているか？
• RQ3 並列関数評価は、スコアベース生成モデルのトレーニング時間をどの程度短縮できるか？
• RQ4 確率的最適化において、FDベースの目的関数は元のスコアマッチング目的関数と漸近的に一貫性を示すか？
• RQ5 FD再定式化は、アーキテクチャの変更なしに、明示的および暗黙的生成モデルの両方へ適用可能か？

主な発見

• FDベースのスライスドスコアマッチング（FD-SSM）は、複数のデータセットおよびモデルにおいて、標準的なSSMと比較して2.5倍以上の高速化を達成した。
• FDベースのノイズ除去スコアマッチング（FD-DSM）は、ベースラインDSMと比較して1.5倍の高速化を達成しつつ、同等の対数尤度性能を維持した。
• MNIST、CIFAR-10、SVHN、CelebAの各データセットにおいて、対数尤度および分布外検出性能の観点から、勾配ベースのベースラインと同等のモデル性能を達成した。
• FDアプローチにより、計算グラフの深さが低減され、確率的最適化における数値安定性が向上し、分散が低減された。
• 本手法は未正規化モデルと互換性があり、目的関数内で計算困難な分割関数が相殺されるため、未正規化密度への直接トレーニングが可能となった。
• 実験結果から、弱い正則性条件の下で、FDベースの目的関数が勾配ベースの対応物と漸近的に一貫することが実証された。