[論文レビュー] Propagating Uncertainty in Multi-Stage Bayesian Convolutional Neural Networks with Application to Pulmonary Nodule Detection

Onur Özdemir, Benjamin Woodward+1 more|arXiv (Cornell University)|Dec 1, 2017

Lung Cancer Diagnosis and Treatment参考文献 14被引用数 30

ひとこと要約

本稿では、2次元セグメンテーションネットワークから3次元ネオドルス検出ネットワークへと不確実性を伝搬・統合する、多段階ベイジアン畳み込みニューラルネットワークを提案する。予測の平均と標準偏差（不確実性）を追加チャネルとして連結することで、検出精度とモデルの信頼性が向上し、アンサンブルにより性能がさらに向上する。特に陽性クラスが少ない状況でも顕著な改善が得られる。

ABSTRACT

Motivated by the problem of computer-aided detection (CAD) of pulmonary nodules, we introduce methods to propagate and fuse uncertainty information in a multi-stage Bayesian convolutional neural network (CNN) architecture. The question we seek to answer is "can we take advantage of the model uncertainty provided by one deep learning model to improve the performance of the subsequent deep learning models and ultimately of the overall performance in a multi-stage Bayesian deep learning architecture?". Our experiments show that propagating uncertainty through the pipeline enables us to improve the overall performance in terms of both final prediction accuracy and model confidence.

研究の動機と目的

• 低線量CTスキャンにおける肺ネオドルス検出を、複数のディープラーニング段階にわたるモデルの不確実性を活用することで改善すること。
• 既存の肺ネオドルス用CADシステムに不確実性推定が欠如していることによる、臨床的信頼性の制限を是正すること。
• セグメンテーション段階からの不確実性伝搬が、全体の検出性能とモデルの信頼性を向上させることを実証すること。
• 1チャネルおよび3チャネルのベイジアン検出ネットワークを統合する不確実性統合とアンサンブル戦略を検討し、より高いロバスト性を実現すること。
• 医療画像診断にとどまらず、不確実性を考慮した意思決定が重要な自律走行やロボット工学など、他の分野への応用可能なフレームワークを提供すること。

提案手法

• テスト時における確率的ドロップアウトを用いた10層のベイジアンU-Netを用い、不確実性推定のための50サンプル分のモンテカルロサンプリングを実施することで、2次元軸方向CT画像のセグメンテーションにおける不確実性を推定する。
• 3次元CNNにおける近似ベイジアン推論をモンテカルロドロップアウトを用いて実装し、予測の平均と標準偏差を推定する。この際も50サンプルを用いる。
• セグメンテーション出力を、元の1チャネル画像に予測平均マップと標準偏差マップを連結することで、3チャネルの合成入力として3次元検出ネットワークに供給する。
• 元の画像上に独立して1チャネルの3次元ベイジアンCNNを訓練し、不確実性統合ネットワークが捉えられない特徴を捉える。
• 凸結合（等価重み0.5）を用いて3チャネルおよび1チャネルのベイジアン検出器の予測を統合することで、不確実性に配慮したアンサンブルを実現。最適な重みは検証AUCを最適化することで決定した。
• 2つの検出ネットワーク間の弱い依存性を確認するため、スピアマン順位相関を用いて分析し、アンサンブル戦略としての多様性向上の妥当性を裏付けた。

実験結果

リサーチクエスチョン

• RQ1 多段階ベイジアンディープラーニングフレームワークにおいて、セグメンテーションネットワークからの不確実性伝搬が、下流のネオドルス検出ネットワークの性能向上に寄与するか。
• RQ2 セグメンテーションから得られる不確実性情報（平均と標準偏差）を画像データと統合することで、肺ネオドルス検出における精度とモデルの信頼性が向上するか。
• RQ3 不確実性統合入力を用いる検出器と、元の画像を入力とする検出器の2つのベイジアン検出器をアンサンブル化した場合、個々のモデルと比較して全体の性能にどのような影響を与えるか。
• RQ4 2つのベイジアンネットワークの予測が、統計的に独立している程度はどの程度か。アンサンブルの有効性を裏付ける根拠となるか。
• RQ5 不確実性の伝搬と統合は、信頼性に配慮した意思決定を必要とする、他の多段階ディープラーニング応用分野へ一般化可能か。

主な発見

• 不確実性統合を施した3チャネルのベイジアンCNNは、Brierスコア0.1010を達成し、1チャネルのベイジアンCNN（0.1214）よりも顕著に低く、より良好なキャリブレーションと性能を示した。
• アンサンブルモデルは、Brierスコア0.0948を達成し、両方の個別モデルおよび非ベイジアンベースライン（0.1045）を上回る最高のスコアを記録した。
• アンサンブル化により検証セットにおけるAUCが向上し、各モデルに等価な重み（0.5）が最適であることが判明し、性能が最大に向上した。
• スピアマン順位相関係数0.346（p < 10^-5）は、2つの検出ネットワーク間に弱い依存性があることを確認し、アンサンブル戦略の有効性を裏付けた。
• 3次元ベイジアンCNNにおける不確実性統合は、特に陽性クラスが極めて不均衡な状況下でも、精度-再現率曲線において優れた性能を示した。
• アンサンブルモデルは3チャネルモデルに比べてわずかに高い予測分散を示したが、1チャネルモデルに比べて顕著に低い値であり、より良好な不確実性キャリブレーションを示した。