[論文レビュー] Out-of-Distribution Detection Using Neural Rendering Generative Models

Yujia Huang, Sihui Dai+3 more|arXiv (Cornell University)|Jul 10, 2019

Generative Adversarial Networks and Image Synthesis参考文献 18被引用数 7

ひとこと要約

本稿では、ニューラルレンダリングモデル（NRM）における潜在変数の連合尤度を、分布外（OoD）検出に用いることを提案する。これは尤度ベースと再構成ベースのアプローチを統合するものであり、CIFAR-10で学習した場合に、SVHN（低分散）のようなOoDデータに対して一貫して低い尤度を割り当てる。従来の尤度および再構成指標を上回り、深層生成モデルを用いたOoDサンプルの検出において、初めて信頼性のある検出を可能にする手法である。

ABSTRACT

Out-of-distribution (OoD) detection is a natural downstream task for deep generative models, due to their ability to learn the input probability distribution. There are mainly two classes of approaches for OoD detection using deep generative models, viz., based on likelihood measure and the reconstruction loss. However, both approaches are unable to carry out OoD detection effectively, especially when the OoD samples have smaller variance than the training samples. For instance, both flow based and VAE models assign higher likelihood to images from SVHN when trained on CIFAR-10 images. We use a recently proposed generative model known as neural rendering model (NRM) and derive metrics for OoD. We show that NRM unifies both approaches since it provides a likelihood estimate and also carries out reconstruction in each layer of the neural network. Among various measures, we found the joint likelihood of latent variables to be the most effective one for OoD detection. Our results show that when trained on CIFAR-10, lower likelihood (of latent variables) is assigned to SVHN images. Additionally, we show that this metric is consistent across other OoD datasets. To the best of our knowledge, this is the first work to show consistently lower likelihood for OoD data with smaller variance with deep generative models.

研究の動機と目的

• OoDサンプルの分散が分布内データより低い場合に、従来の尤度および再構成ベースのOoD検出が失敗することを解決すること。
• ニューラルレンダリングモデル（NRM）を用いて、尤度ベースと再構成ベースのOoD検出を統合するフレームワークを構築すること。
• ピクセルレベルの分散に依存せず、画像構造を捉えることができる、頑健なOoD検出指標を特定すること。
• NRMにおける最適化された潜在変数の連合尤度が、分布内とOoDデータの間で一貫した分離を実現することを示すこと。

提案手法

• ニューラルレンダリングモデル（NRM）を用い、CNNの順方向プロセスを逆転させ、事前分布p(z|y)を持つ構造化された潜在変数を用いて画像生成をモデル化する。
• 観測尤度p(x)を再構成損失と潜在変数の連合尤度に分解することで、複数のOoD検出指標を可能にする。
• 主に、最適化された潜在変数p({z*(ℓ)}ℓ=1:L | y*)の連合尤度に注目し、ピクセルレベルの指標よりも画像構造をよりよく捉える。
• NRMフレームワーク内に、最先端のCNNアーキテクチャ（例：ResNet、DenseNet）を採用し、表現学習と検出性能の向上を図る。
• データ尤度p(x)、再構成損失、潜在尤度p(z)といった複数の指標を評価し、それらのOoD検出性能を比較する。
• CIFAR-10（分布内）とSVHN、CelebA（OoD）データの対象として、対数尤度スコアのヒストグラム分析を用いて、分布間の分離を可視化する。

実験結果

リサーチクエスチョン

• RQ1 NRMにおける潜在変数の連合尤度は、従来の尤度や再構成損失に比べ、より頑健なOoD検出指標を提供できるか？
• RQ2 提案された指標は、学習分布よりも分散が低いOoDサンプルを効果的に検出できるか？
• RQ3 潜在変数の連合尤度は、他の指標と比較して、分布内とOoDデータ分布の間の分離度において優れているか？
• RQ4 NRMフレームワークは、尤度ベースと再構成ベースのOoD検出アプローチを統合できるか？

主な発見

• CIFAR-10で学習した場合に、SVHN（低分散）画像に対して、潜在変数の連合尤度p({z*(ℓ)}ℓ=1:L | y*)が一貫して低い尤度を割り当てることが確認された。
• この指標は、分布内とOoDデータの間に有意な分離を示し、他の指標（例：Glowの尤度）とは異なり、ヒストограмのピークに重なりがほとんどない。
• 未知のOoD分布に対しても頑健であり、OoD特性に関する事前知識を必要としない。
• 連合尤度指標は、ピクセルレベルの尤度や再構成損失よりも画像構造をよりよく捉えており、分散の違いへの感受性が低い。
• 本手法は、深層生成モデルを用いて、分散が低いOoDデータに対して一貫して低い尤度を割り当てる、最初の信頼性のある手法である。