[論文レビュー] BAR: Bayesian Activity Recognition using variational inference

Ranganath Krishnan, Mahesh Subedar+1 more|arXiv (Cornell University)|Nov 8, 2018

Anomaly Detection Techniques and Applications参考文献 21被引用数 5

ひとこと要約

本稿では、視覚的アクティビティ認識における不確実性を定量化するため、確率的変分ベイズ推論を用いたベイジアンディープラーニングフレームワークを提案する。ネットワーク重みの事後分布を近似し、モンテカルロサンプリングを活用することで、より信頼性の高い信頼区間推定が可能となり、Moments-in-Timeデータセットにおいて非ベイジアンベースライン比で精度再現AUCが6.2%向上した。

ABSTRACT

Uncertainty estimation in deep neural networks is essential for designing reliable and robust AI systems. Applications such as video surveillance for identifying suspicious activities are designed with deep neural networks (DNNs), but DNNs do not provide uncertainty estimates. Capturing reliable uncertainty estimates in safety and security critical applications will help to establish trust in the AI system. Our contribution is to apply Bayesian deep learning framework to visual activity recognition application and quantify model uncertainty along with principled confidence. We utilize the stochastic variational inference technique while training the Bayesian DNNs to infer the approximate posterior distribution around model parameters and perform Monte Carlo sampling on the posterior of model parameters to obtain the predictive distribution. We show that the Bayesian inference applied to DNNs provide reliable confidence measures for visual activity recognition task as compared to conventional DNNs. We also show that our method improves the visual activity recognition precision-recall AUC by 6.2% compared to non-Bayesian baseline. We evaluate our models on Moments-In-Time (MiT) activity recognition dataset by selecting a subset of in- and out-of-distribution video samples.

研究の動機と目的

• 安全上の重要な応用における視覚的アクティビティ認識のための深層ニューラルネットワークにおける信頼性の高い不確実性推定の欠如を解消すること。
• 予測不確実性と信頼度をモデル化するため、変分ベイズ推論を用いたベイジアンディープラーニングをアクティビティ認識に適用すること。
• 標準的なDNNと比較して、ベイジアンDNNが誤った予測や分布外（OOD）のサンプルをよりよく同定できるかどうかを評価すること。
• BALDと予測エントロピーという指標を用いて、不確実性の定量化における性能向上を実証すること。

提案手法

• トレーニング中に深層ニューラルネットワーク重みの事後分布を近似するために、確率的変分ベイズ推論を用いる。
• 推論された事後分布からのモンテカルロサンプリングを用いて、新しい入力の予測分布を計算する。
• 変分パラメータの勾配ベース最適化のため、下界の期待値（ELBO）を最適化目的関数として適用する。
• モデルの不確実性を測定するために、予測エントロピーとBALD（不確実性による積極的学習）を用いる。
• Moments-in-Timeデータセットのトリムド動画クリップ上で3D畳み込みネットワーク（C3D）アーキテクチャを学習する。
• SoftMax確率を用いた標準DNNと、変分ベイズ推論およびMCドロップアウトを用いたベイジアンDNNの不確実性推定を比較する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンDNNにおける確率的変分ベイズ推論は、視覚的アクティビティ認識において、標準DNNと比較してより信頼性の高い信頼区間推定を提供できるか？
• RQ2 不確実性指標を用いて、ベイジアンDNNは分布内と分布外の動画サンプルをどれほど正確に区別できるか？
• RQ3 提案されたベイジアンフレームワークは、非ベイジアンDNNベースラインと比較して、精度再現AUCを向上させるか？
• RQ4 BALDと予測エントロピー指標は、正しく予測された場合と誤った予測された場合の両方において、不確実性をどれほど適切に捉えられるか？

主な発見

• 確率的変分ベイズ推論を用いたベイジアンDNNは、Moments-in-Timeデータセットにおいて非ベイジアンDNNベースラインと比較して、精度再現AUCが6.2%向上した。
• モンテカルロサンプリングによるベイジアンDNNの予測平均確率は、誤った予測に対して低い信頼度を示したが、標準DNNのSoftMax確率とは異なり、過信した推定を示さなかった。
• ベイジアンDNNは、分布外（OOD）のサンプルに対して顕著に低い信頼度を示した。特に、確率的変分ベイズ推論手法は、MCドロップアウトと比較して、低信頼度値へのピークがより顕著に現れた。
• BALDと予測エントロピー指標は、分布内と分布外のサンプルを明確に分離しており、確率的変分ベイズ推論はMCドロップアウトと比較して、より優れたピーク分離を示した。
• 信頼度と不確実性指標の密度ヒストグラムは、ベイジアンモデルが誤った予測やOOD予測に対して不確実性を信頼性高く捉えていることを確認した。