[論文レビュー] High- and Low-level image component decomposition using VAEs for improved reconstruction and anomaly detection

David Zimmerer, Jens Petersen+1 more|arXiv (Cornell University)|Nov 27, 2019

COVID-19 diagnosis using AI参考文献 21被引用数 6

ひとこと要約

本論文は、高レベル（粗い）および低レベル（細かい）成分に画像を分解する専用再構成ブランチを備えた、新しい変分オートエンコーダー構造である主成分条件付き階層的VAE（pchVAE）を提案する。修正された損失関数によって分離性を強制することで、標準VAEに比べてよりシャープな再構成が達成され、同時に分布外検出性能を維持またはわずかに向上させ、医療画像生成における一般的な過剰に滑らかすぎる出力という問題を解決する。

ABSTRACT

Variational Auto-Encoders have often been used for unsupervised pretraining, feature extraction and out-of-distribution and anomaly detection in the medical field. However, VAEs often lack the ability to produce sharp images and learn high-level features. We propose to alleviate these issues by adding a new branch to conditional hierarchical VAEs. This enforces a division between higher-level and lower-level features. Despite the additional computational overhead compared to a normal VAE it results in sharper and better reconstructions and can capture the data distribution similarly well (indicated by a similar or slightly better OoD detection performance).

研究の動機と目的

• 標準VAEを医療画像再構成に適用した際の過剰に滑らかすぎる問題を解決すること。
• 教師なし表現学習における高レベル（粗い）および低レベル（細かい）画像特徴の間の分離性を向上させること。
• アーキテクチャの変更にもかかわらず、分布外（OoD）検出性能を維持または向上させること。
• 構造的階層を明示的にモデル化することで、脳MRIデータにおける再構成忠実度を向上させること。
• 医療画像解析に適したより解釈可能でモジュール化されたVAEフレームワークを提供すること。

提案手法

• 高レベルおよび低レベル成分の再構成誤差を別々に最小化するように設計された新しい損失関数を提案し、さらに相互情報量正則化項を追加する。
• 低レベルデコーダーを高レベル潜在コードおよび低レベルコードの両方に条件づける、条件付き階層的VAEアーキテクチャを導入することで、分離性を促進する。
• 高レベルおよび低レベル特徴の両方に共通のエンコーダーブレインを用い、粗い構造と細かい構造の再構成にそれぞれ別々のデコーダーを設ける。
• 3つの再構成項（高レベル、低レベル、および両成分間の独立性を強制するクロス項）を含む、修正された変分推論目的関数を適用する。
• 再パラメータライゼーションとモンテカルロサンプリングを用いて、階層モデルのエンドツーエンド学習を可能にする。
• 各潜在空間に対してKLダイバージェンス項を導入し、事後分布を標準正規分布に正則化する。

実験結果

リサーチクエスチョン

• RQ1 専用の低レベル再構成ブランチを備えた階層的VAEアーキテクチャは、標準VAEに比べて画像再構成のシャープネスを向上させることができるか？
• RQ2 高レベルおよび低レベル特徴の間の分離性を強制することで、医療画像における繊細なテクスチャの再構成能力が向上するか？
• RQ3 提案されたpchVAEは、ベースラインVAEと比較して、分布外（OoD）検出性能を維持または向上させるか？
• RQ4 モデルは脳MRIデータにおいて、粗い構造的成分と細かいテクスチャ的詳細を効果的に分離できるか？
• RQ5 相互情報量正則化項は、高レベルおよび低レベル成分間の独立性を促進するために有効であるか？

主な発見

• pchVAEは、特に脳MRIスライスにおける繊細な細部やテクスチャを保持する点で、標準VAEやVQVAE-2に比べて顕著にシャープな再構成を達成する。
• AUROCおよび平均適合率を用いた測定において、OoD検出性能を維持またはわずかに向上させ、データ分布の頑健なモデリングを示している。
• High VAEおよびLow VAEの変種に比べ、pchVAEは再構成品質で優れていることから、両成分の共同モデリングの利点を実証している。
• 相互情報量正則化項（λ₃）の導入により、より分離された表現が得られ、低レベル成分が高レベル特徴の影響をほとんど受けることなく、独立に学習される。
• 計算コストが高くなるものの、一般化性能に影響を与えることなく、より高い再構成忠実度を達成しており、HCPおよびBraTS2017データセットにおける一貫性ある性能が裏付けている。
• アブレーションスタディにより、3項再構成損失が視覚的品質および分離性の向上を達成するために不可欠であることが確認された。