[論文レビュー] A Case for the Score: Identifying Image Anomalies using Variational Autoencoder Gradients

David Zimmerer, Jens Petersen+2 more|arXiv (Cornell University)|Nov 28, 2019

Anomaly Detection Techniques and Applications参考文献 21被引用数 20

ひとこと要約

本論文は、変分オートエンコーダー（VAE）のエビデンス下界（ELBO）の勾配をピクセル単位の画像異常検出におけるスコア近似として用いることを提案し、再構築誤差に基づく手法を上回る性能を示した。BraTS-2017データセットにおいて、教師なし腫瘍検出で0.94のROC-AUCを達成し、再構築誤差のみに依存するものよりも、VAEベースのスコア推定がより忠実で理論的根拠を持つ異常評価を提供することを示した。

ABSTRACT

Through training on unlabeled data, anomaly detection has the potential to impact computer-aided diagnosis by outlining suspicious regions. Previous work on deep-learning-based anomaly detection has primarily focused on the reconstruction error. We argue instead, that pixel-wise anomaly ratings derived from a Variational Autoencoder based score approximation yield a theoretically better grounded and more faithful estimate. In our experiments, Variational Autoencoder gradient-based rating outperforms other approaches on unsupervised pixel-wise tumor detection on the BraTS-2017 dataset with a ROC-AUC of 0.94.

研究の動機と目的

• 教師なし医療画像異常検出における再構築誤差の限界を是正するため、理論的根拠がより明確な代替手法を提案すること。
• 入力に対して対数密度の勾配として定義されるスコアが、画像の優れた異常評価指標として機能するかどうかを検証すること。
• MRIスキャンにおけるピクセル単位の腫瘍検出において、VAEベースのスコア近似の性能を評価すること。
• ELBOの勾配におけるKL正則化項と再構築損失の寄与度を分析すること。

提案手法

• 本手法は、入力画像に関してVAEのエビデンス下界（ELBO）の勾配を用いてスコアを近似する。
• ELBOは、推論分布と事前分布のKLダイバージェンス項と、再構築の対数尤度の期待値項に分解される。
• 再パラメータリゼーショントリックと、微分可能なガウス分布におけるマルコフモンテカルロサンプリングを用いて、ELBOの勾配をバックプロパゲーションで計算する。
• 勾配推定の安定化と転置畳み込みによるノイズ低減のため、SmoothGradを適用する。
• 転置畳み込みによるチェッカーパattersを軽減するため、勾配にガウス平滑化を適用する。
• ピクセル単位の異常スコア評価を用いて、再構築誤差、平滑化再構築誤差、およびサンプリング分散と比較評価する。

実験結果

リサーチクエスチョン

• RQ1 VAEのELBOの勾配は、再構築誤差よりもより正確で理論的根拠を持つ異常評価指標として機能できるか？
• RQ2 ELBOの個々の構成要素（再構築損失とKL正則化項）は、異常検出性能にどのように寄与しているか？
• RQ3 KL損失勾配を組み込むことで、再構築誤差または再構築勾配のみのものよりも、異常検出性能が向上するか？
• RQ4 SmoothGradおよびガウス平滑化の使用は、異常スコアの品質にどのように影響するか？

主な発見

• VAEベースのスコア近似（ELBOの勾配として計算）は、BraTS-2017データセットでピクセル単位のROC-AUCが0.94に達し、以前の最先端手法を上回った。
• KL損失勾配のみが再構築損失勾配よりも優れた性能を示し、全体のスコア性能に顕著な寄与を示した。
• KL損失勾配と再構築損失勾配の組み合わせは、KL損失勾配のみのものに比べて僅かな改善に留まり、KL項が異常信号を支配していることが示唆された。
• 再構築誤差と平滑化再構築誤差は類似した性能を示し、平滑化によるわずかな改善が見られたが、両者ともELBO勾配に劣った。
• モンテカルロサンプルに基づくサンプリング分散は、平滑化再構築誤差と同等の性能を示したが、ELBO勾配には劣った。
• 結果から、VAEの目的関数におけるKL項が分布の逸脱を捉える上で極めて重要であり、異常検出に強力な信号を提供することが示された。