[論文レビュー] What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision?

Alex Kendall, Yarin Gal|arXiv (Cornell University)|Mar 15, 2017

Domain Adaptation and Few-Shot Learning参考文献 30被引用数 2,528

ひとこと要約

本論文は、入力依存のアレータシック不確実性と認識論的不確実性を統合した統一的なベイズフレームワークを提案し、視覚タスクにおけるピクセルごとの深度回帰と意味セグメンテーションの性能を向上させ、学習された不確実性によるロスの抑制を導入する。

ABSTRACT

There are two major types of uncertainty one can model. Aleatoric uncertainty captures noise inherent in the observations. On the other hand, epistemic uncertainty accounts for uncertainty in the model -- uncertainty which can be explained away given enough data. Traditionally it has been difficult to model epistemic uncertainty in computer vision, but with new Bayesian deep learning tools this is now possible. We study the benefits of modeling epistemic vs. aleatoric uncertainty in Bayesian deep learning models for vision tasks. For this we present a Bayesian deep learning framework combining input-dependent aleatoric uncertainty together with epistemic uncertainty. We study models under the framework with per-pixel semantic segmentation and depth regression tasks. Further, our explicit uncertainty formulation leads to new loss functions for these tasks, which can be interpreted as learned attenuation. This makes the loss more robust to noisy data, also giving new state-of-the-art results on segmentation and depth regression benchmarks.

研究の動機と目的

• 視覚モデルにおけるアレータシック不確実性と認識論的不確実性を区別し、定量化する。
• 入力依存のアレータシック不確実性と認識論的不確実性を組み合わせるフレームワークを開発する。
• 学習されたロスの低減を通じてノイズのあるデータに対するロバスト性を示す。
• このフレームワークをピクセルごとの意味セグメンテーションと深度回帰タスクに適用する。
• 不確実性のタイプ間の実用的なトレードオフと推論効率を示す。

提案手法

• 認識論的不確実性をドロップアウトベースの近似ベイズ推論（Monte Carlo dropout）でモデル化する。
• 安定な損失関数を用いて、per-pixelの観測ノイズ（sigma）とその対数分散 s を学習することでアレータシック不確実性をモデル化する（exp(-s)を用いる）。
• yとsigma^2の両方を予測する共有ヘッドを持つ単一のBayesian CNNに、アレータシックと認識論的不確実性を組み合わせる。
• 分類にもヘテロスケダスティック不確実性を拡張し、Monte Carlo推定で対数スペースのガウスノイズを周辺化する（摂動したロジット上のsoftmax）。
• 回帰のための損失 L_BNN = (1/D) sum_i 0.5 exp(-s_i) ||y_i - y_hat_i||^2 + 0.5 s_i を導出し、分類には対応する確率的クロスエントロピーの変種を導出する。
• 精度-再現率とキャリブレーションプロットを用いて不確実性の品質を評価し、訓練データサイズやアウト・オブ・ディストリビューションテストでの挙動を分析する。

実験結果

リサーチクエスチョン

• RQ1 アレータシック不確実性のみ、認識論的不確実性のみ、またはそれらの組み合わせをモデル化することで、セグメンテーションや深度回帰などの視覚タスクは改善されるか。
• RQ2 アレータシック不確実性からの学習済みロス抑制は、ノイズのあるラベルやデータに対する頑健性を高めるか。
• RQ3 アレータシック不確実性と認識論的不確実性は、訓練分布からのデータ距離とデータセットサイズに関してどのように挙動が異なるか。
• RQ4 両方の不確実性をモデリングすることは、リアルタイムまたはほぼリアルタイム推論と適合するか。
• RQ5 不確実性を組み合わせたとき、セグメンテーションと深度回帰の標準ベンチマークにおける実証的な利得は何か。

主な発見

• アレータシック不確実性と認識論的不確実性の両方をモデリングすることで、CamVidと NYUv2 のセグメンテーション、および Make3Dと NYUv2 の深度回帰で最先端の結果を得る。
• アレータシック不確実性の方が認識論的不確実性よりセグメンテーションで大きな利得をもたらし、組み合わせがさらに改善をもたらす。
• 深度回帰は不確実性を組み合わせることで改善が見られ、Make3Dと NYUv2 のデータセット全般で相対的な改善が見られる。
• アレータシック不確実性からの learned loss attenuation は、難易度が高いまたはラベル付けが誤っているピクセルを低重み付けすることでノイズの多いデータに対する頑健性を高め、全体性能を犠牲にしない。
• 認識論的不確実性は大規模な訓練データで低下し、アウト・オブ・ディストリビューションまたはデータが少ない状況で顕著になるのに対し、アレータシック不確実性はデータサイズに対して比較的安定している。
• モデルはアレータシック成分のほぼリアルタイム推論を達成する一方、Monte Carlo dropoutによる完全な認識論的不確実性サンプリングは実質的な計算コストが高く、実用的なデプロイメントのトレードオフを強調する。