[論文レビュー] Semi-supervised Medical Image Classification with Global Latent Mixing

Prashnna Gyawali, Sandesh Ghimire+3 more|arXiv (Cornell University)|May 22, 2020

AI in cancer detection参考文献 10被引用数 5

ひとこと要約

本稿では、ラベル付きおよびラベルなしデータの入力空間および潜在空間における混合を統合することで、グローバルな滑らかさを強制することにより、モデルの汎化性能を向上させる、医療画像分類のための新規な半教師あり学習手法を提案する。ラベルなしデータに対して疑似ラベルを用いて、入力空間および潜在空間の両方で線形補間されたサンプルを用いて学習することで、チーチャーX線および皮膚病変分類ベンチマークで最先端の性能を達成し、局所的摂動や入力空間のみの混合に依存する手法を上回る。

ABSTRACT

Computer-aided diagnosis via deep learning relies on large-scale annotated data sets, which can be costly when involving expert knowledge. Semi-supervised learning (SSL) mitigates this challenge by leveraging unlabeled data. One effective SSL approach is to regularize the local smoothness of neural functions via perturbations around single data points. In this work, we argue that regularizing the global smoothness of neural functions by filling the void in between data points can further improve SSL. We present a novel SSL approach that trains the neural network on linear mixing of labeled and unlabeled data, at both the input and latent space in order to regularize different portions of the network. We evaluated the presented model on two distinct medical image data sets for semi-supervised classification of thoracic disease and skin lesion, demonstrating its improved performance over SSL with local perturbations and SSL with global mixing but at the input space only. Our code is available at https://github.com/Prasanna1991/LatentMixing.

研究の動機と目的

• 専門家によるアノテーションが施された医療画像データセットの高コストを低減するため、半教師あり学習（SSL）の性能を向上させること。
• 既存のSSL手法がデータポイントの周囲での局所的滑らかさにのみ正則化しているという制限を克服し、グローバルな滑らかさ正則化を導入すること。
• 潜在空間における混合が、医療画像分類におけるSSLの汎化性能を向上させるかどうかを調査すること。
• 入力空間および潜在空間における混合の組み合わせが、半教師あり医療画像分類において有効であることを実証すること。

提案手法

• 本手法は、ラベル付きおよびラベルなしデータのペアを入力空間で線形に混合し、補間された画像と対応する疑似ラベルを生成する。
• 入力空間への混合を、深層ネットワークの隠れ表現に入力を射影し、ラベル付きおよびラベルなしサンプルの潜在特徴を補間することで、潜在空間への混合に拡張する。
• 同じサンプルの増幅された複数の視点からの予測をアンサンブル平均することで、ラベルなしデータの疑似ラベルを継続的に更新する。
• 実際のラベルに対する交差エントロピー損失と、入力空間および潜在空間の両方における混合サンプルに対する一貫性損失の組み合わせを用いてモデルを学習する。
• 訓練中に、入力空間と潜在空間の混合の寄与度をバランスさせるためのトレードオフハイパーパrameterを導入する。
• 本手法は深層ニューラルネットワーク全体にエンドツーエンドで適用され、複数の層で混合を実施することで、深さが性能に与える影響を評価する。

実験結果

リサーチクエスチョン

• RQ1 潜在空間における混合によるグローバルな滑らかさ正則化が、局所的摂動に基づく手法を上回る半教師あり医療画像分類を実現できるか？
• RQ2 入力空間および潜在空間における混合を組み合わせることで、いずれの空間でも混合を行った場合よりも優れた性能が得られるか？
• RQ3 混合を適用する潜在空間の深さが、医療画像分類におけるSSLの汎化性能にどのように影響するか？
• RQ4 潜在空間における混合が、モデルのキャリブレーションおよび意思決定境界の滑らかさをどの程度向上させるか？

主な発見

• 提案手法は、評価されたすべての設定で最高の性能を達成し、局所的滑らかさに基づくSSL（例：ノイズまたは増幅を用いた自己アンサンブル）および入力空間のみのMixupと比較して優れている。
• Chexpertデータセット（ラベル付き画像300枚）では、入力空間および潜在空間の混合を組み合わせた手法がマクロF1スコア0.6747 ± 0.23を達成し、入力空間Mixup（0.6736 ± 0.17）およびノイズベースの自己アンサンブル（0.6508 ± 0.13）を上回った。
• 皮膚病変データセットでは、すべての評価ケースで組み合わせ型の入力空間および潜在空間混合手法が最高の性能を示し、一貫した優位性を示した。
• アブレーションスタディの結果、単純なガウスノイズへの代替が性能を著しく低下させたことから、特異的な増幅戦略の重要性が示された。
• ネットワークの深い層（例：後期活性化特徴）で混合を実施した場合、入力空間のみまたは初期層での混合よりも優れた性能が得られた。これは、高レベルの表現がグローバルな滑らかさ正則化により効果的であることを示唆している。
• 信頼性図の結果、入力空間混合と比較して潜在空間混合がわずかにモデルのキャリブレーションを改善しており、信頼度推定の質が向上していることが示された。