[論文レビュー] Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning

Yarin Gal, Zoubin Ghahramani|arXiv (Cornell University)|Jun 6, 2015

Gaussian Processes and Bayesian Inference参考文献 36被引用数 4,095

ひとこと要約

この論文は、深いニューラルネットワークにおけるドロップアウトが深いガウス過程におけるベイジアン推論を近似することを示し、モデル不確実性の実践的な推定を可能にし、回帰・分類・強化学習タスクで予測対数尤度とRMSEを改善する。

ABSTRACT

Deep learning tools have gained tremendous attention in applied machine\nlearning. However such tools for regression and classification do not capture\nmodel uncertainty. In comparison, Bayesian models offer a mathematically\ngrounded framework to reason about model uncertainty, but usually come with a\nprohibitive computational cost. In this paper we develop a new theoretical\nframework casting dropout training in deep neural networks (NNs) as approximate\nBayesian inference in deep Gaussian processes. A direct result of this theory\ngives us tools to model uncertainty with dropout NNs -- extracting information\nfrom existing models that has been thrown away so far. This mitigates the\nproblem of representing uncertainty in deep learning without sacrificing either\ncomputational complexity or test accuracy. We perform an extensive study of the\nproperties of dropout's uncertainty. Various network architectures and\nnon-linearities are assessed on tasks of regression and classification, using\nMNIST as an example. We show a considerable improvement in predictive\nlog-likelihood and RMSE compared to existing state-of-the-art methods, and\nfinish by using dropout's uncertainty in deep reinforcement learning.\n

研究の動機と目的

• 回帰、分類、および強化学習のための深層学習におけるモデル不確実性を表現する必要性を動機づける。
• ドロップアウトが深いガウス過程へのベイジアン近似として解釈できることを示す。
• 既存のドロップアウトネットワークから不確実性を抽出・活用する実用的なツールを開発する。
• 回帰および MNIST分類で、アーキテクチャや非線形性を横断して不確実性推定を評価する。

提案手法

• ドロップアウト訓練を深いガウス過程における近似ベイズ推論として位置づける。
• ベルヌイドロップアウトマスクを用いた疎スペクトル成分の変分分布を用い、事後を近似する。
• ドロップアウトをGPベースの事後へ関連づけるKL発散目的関数を定式化する（本文の式3および式4）。
• ドロップアウトマスクをサンプリングして予測平均と分散を推定することで Monte Carlo dropout (MC dropout) を導出する（式6および式7）。
• MCフォワードパスを介して予測対数尤度と不確実性を計算する実践的手順を提供する。

実験結果

リサーチクエスチョン

• RQ1 ドロップアウトは深層モデルにおける不確実性を表現するベイジアン近似として解釈できるか？
• RQ2 アーキテクチャや訓練手順を変更せずに、標準のドロップアウトネットワークから予測不確実性を定量化するにはどうすればよいか？
• RQ3 MC dropoutからの不確実性推定は、他の方法と比較して回帰・分類・RLのタスク全体で予測対数尤度とRMSEを改善するか？
• RQ4 異なるアーキテクチャと非線形性（ReLU、TanH、畳み込みネットワーク）およびデータレジームで、ドロップアウト由来の不確実性はどのように挙動するか？

主な発見

• ドロップアウトNNは深いガウス過程における近似推論として見ることができ、追加の計算負荷なしに不確実性の定量化を可能にする。
• MC dropoutは複数の確率的フォワードパスを平均することで、予測平均と分散の実用的な推定を提供する。
• ドロップアウト由来の不確実性は、いくつかのベースラインと比較して回帰ベンチマーク（例：MNISTベースの分類および標準データセット）で予測対数尤度とRMSEを改善する。
• ドロップアウトからの不確実性情報は、探索を指針するために強化学習で活用できる（例：Thompson sampling）。
• アーキテクチャと非線形性を横断して、ドロップアウト由来の不確実性は分類タスクと外挿シナリオで特に有用である。