[論文レビュー] Thermostat-assisted continuously-tempered Hamiltonian Monte Carlo for Bayesian learning

Rui Luo, Jianhong Wang+3 more|ePrints Soton (University of Southampton)|Nov 30, 2017

Gaussian Processes and Bayesian Inference被引用数 7

ひとこと要約

本稿では、ベイズ的学習における多次元的後方分布からの効率的サンプリングを実現する、新しいMCMCサンプラーであるThermostat-assisted Continuously-Tempered Hamiltonian Monte Carlo (TACT-HMC) を提案する。この手法は、連続的温度調整とNosé-Hooverサーモスタットを組み合わせることで、複雑で高次元のエネルギー障壁を効果的に克服し、ミニバッチ学習に起因するノイズを適応的に抑制する。画像分類タスクにおいて、複数のニューラルネットワークアーキテクチャで強力なベースラインを上回る性能を発揮する。

ABSTRACT

We propose a new sampling method, the thermostat-assisted continuously-tempered Hamiltonian Monte Carlo, for Bayesian learning on large datasets and multimodal distributions. It simulates the Nosé-Hoover dynamics of a continuously-tempered Hamiltonian system built on the distribution of interest. A significant advantage of this method is that it is not only able to efficiently draw representative i.i.d. samples when the distribution contains multiple isolated modes, but capable of adaptively neutralising the noise arising from mini-batches and maintaining accurate sampling. While the properties of this method have been studied using synthetic distributions, experiments on three real datasets also demonstrated the gain of performance over several strong baselines with various types of neural networks plunged in.

研究の動機と目的

• 大規模データセットにおけるベイズ的学習の際、多次元的後方分布の探索が非効率であるという課題に対処すること。
• ミニバッチノイズがMCMCサンプリングの精度と安定性に与える悪影響を軽減すること。
• 高次元で険しいパrameter空間においても、エルゴディック性を維持し、代表的なi.i.d.サンプルを生成するサンプリング手法を開発すること。
• 確率的最適化の設定下でも、深層ニューラルネットワークに対する頑健なベイズ推論を可能にすること。
• 連続的温度調整とNosé-Hooverサーモスタットを統合したフレームワークを構築し、より優れたサンプリングダイナミクスを実現すること。

提案手法

• 本手法は、ハミルトニアンモンテカルロ（HMC）を拡張し、エネルギー障壁を克服するため、ターゲット分布の有効温度を体系的に変化させる連続的温度調整を導入する。
• ノイズの発生源である確率的ミニバッチ勾配に起因するノイズを低減するために、Nosé-Hooverサーモスタットを用いてシステム温度を動的に制御する。
• 温度が連続的に変化する温度調整付きハミルトニアン系によって、孤立したモードの効率的探索が可能となる。
• ステップサイズ、ノイズレベル、熱的インダクタンスを含む7つのパラメータを用いたパラメータ化により、シンプレクティック積分器を用いてシステムをシミュレートする。
• サーモスタット機構は、ノイズのある勾配に対しても詳細釣合の維持と正しいターゲット分布への収束を保証するように自動的に調整される。
• 本アルゴリズムは確率的最適化と互換性があるように設計されており、大規模なベイズ的ディープラーニングに適している。

実験結果

リサーチクエスチョン

• RQ1 連続的温度調整は、ベイズ的学習における多次元的後方分布の混合と探索を顕著に改善できるか？
• RQ2 Nosé-Hooverサーモスタットは、正しいターゲット分布を保持しつつ、ミニバッチ勾配からのノイズを効果的に抑制できるか？
• RQ3 温度調整とサーモスタットの統合により、ディープラーニングタスクにおける一般化性能と精度が向上するか？
• RQ4 複雑な損失関数のランドスケープを示す実世界のデータセットにおいて、TACT-HMCは最先端のサンプラーおよび最適化手法を上回る性能を示すか？
• RQ5 ラベルの不正な入れ替えや訓練データ内のノイズ増加の下でも、本手法は頑健な性能を維持できるか？

主な発見

• TACT-HMCはEMNIST、Fashion-MNIST、CIFAR-10で最先端の性能を達成し、すべてのタスクでAdam、モーメンタムSGD、SGHMC、SGNHTを上回った。
• CNNを用いたCIFAR-10では、30%のラベル入れ替え状況下で78.93%の精度を達成し、次善の手法（SGNHT）を2.16ポイント上回った。
• Fashion-MNISTにおけるRNNでは、最良のベースラインを約0.5%上回る精度を達成し、順序付きモデルに対しても一貫した向上効果を示した。
• 高レベルのラベル不正（30%のラベル入れ替え）下でも、TACT-HMCは安定的かつ優れた性能を維持した。これは、ノイズの多いデータに対して頑健であることを示している。
• 3つのデータセットおよびネットワークアーキテクチャすべてにおいて一貫した改善が見られ、特に複雑で高次元的な環境下で顕著であった。
• 連続的温度調整とサーモスタットの統合により、孤立したモードの効率的探索と、ミニバッチノイズが存在する中での正確なサンプリングが可能になった。