[論文レビュー] RRA-U-Net: a Residual Encoder to Attention Decoder by Residual Connections Framework for Spine Segmentation under Noisy Labels

Ziyang Wang, Zhengdong Zhang+1 more|arXiv (Cornell University)|Sep 27, 2020

Medical Imaging and Analysis参考文献 19被引用数 4

ひとこと要約

本論文では、ノイズのあるラベル下での脊椎画像分類を目的として、残差エンコーダー、残差ブロックに基づくスキップ接続、アテンションモジュール、および自己適応的クリーン・ノイズラベル学習戦略（ACNLL）を備えたU-Netベースのフレームワーク、RRA-U-Netを提案する。本手法は、特徴量の分布シフトを効果的に抑制し、ラベルノイズに対して高い耐性を示すことで、公に提供されている脊椎CTデータセットにおいて最先端の性能を達成した。

ABSTRACT

Segmentation algorithms of medical image volumes are widely studied for many clinical and research purposes. We propose a novel and efficient framework for medical image segmentation. The framework functions under a deep learning paradigm, incorporating four novel contributions. Firstly, a residual interconnection is explored in different scale encoders. Secondly, four copy and crop connections are replaced to residual-block-based concatenation to alleviate the disparity between encoders and decoders, respectively. Thirdly, convolutional attention modules for feature refinement are studied on all scale decoders. Finally, an adaptive clean noisy label learning strategy(ACNLL) based on the training process from underfitting to overfitting is studied. Experimental results are illustrated on a publicly available benchmark database of spine CTs. Our segmentation framework achieves competitive performance with other state-of-the-art methods over a variety of different evaluation measures.

研究の動機と目的

• ノイズのあるラベル下で頑健な医療画像分類モデルを訓練する課題に対処すること。
• U-Netアーキテクチャにおいてエンコーダーとデコーダーの特徴量の分布差を低減すること。
• 畳み込みアテンションモジュールを用いてデコーダーにおける特徴量の精錬を向上させること。
• アンダーフィッティングからオーバーフィッティングへの遷移を活用して、ラベルノイズに適応する学習戦略を開発すること。
• ラベルノイズが存在する状況下でも、脊椎CT分類において最先端の性能を達成すること。

提案手法

• 複数スケールのエンコーダー間で残差相互接続を導入し、特徴量学習と勾配伝播の安定化を図る。
• 従来のコピー＆クロップスキップ接続を、残差ブロックに基づく連結に置き換えることで、エンコーダーとデコーダー間の特徴量分布の不一致を低減する。
• すべてのデコーダーステージに畳み込みアテンションモジュールを導入し、特徴量を精錬し、関連する解剖学的構造を強調する。
• 訓練のダイナミクス（アンダーフィッティングからオーバーフィッティングへの遷移）を活用して、動的に学習を調整する自己適応的クリーン・ノイズラベル学習（ACNLL）戦略を提案する。
• アテンション誘導型の監視とノイズに配慮した最適化を統合した損失関数を用いて、モデルをエンドツーエンドで訓練する。
• 実際のノイズラベル状況下でのフレームワークの検証に、公に提供されている脊椎CTデータセットを活用する。

実験結果

リサーチクエスチョン

• RQ1 エンコーダースケール間の残差接続は、ラベルノイズ下での脊椎分類における特徴表現をどのように改善するか？
• RQ2 残差ブロックに基づくスキップ接続は、エンコーダーとデコーダー間の特徴量分布ギャップをどの程度低減するか？
• RQ3 すべてのデコーダーステージにアテンションモジュールを適用することで、分類精度とノイズラベルに対する耐性が向上するか？
• RQ4 ACNLL戦略は、ノイズラベル環境下で訓練中にクリーンサンプルを効果的に特定・優先できるか？
• RQ5 提案されたフレームワークは、ノイズラベルを伴う脊椎CT分類において、既存の最先端手法を上回る性能を示すか？

主な発見

• RRA-U-Netフレームワークは、公に提供されている脊椎CTベンチマークにおいて、複数の評価指標で競争力のある分類性能を達成した。
• 残差ブロックに基づくスキップ接続の活用により、エンコーダーとデコーダーの特徴量間の分布差が顕著に低減された。
• すべてのデコーダーステージにアテンションモジュールを適用することで、特徴量の精錬が向上し、境界予測の正確性が向上した。
• ACNLL戦略は、訓練中にクリーンサンプルを効果的に特定・優先し、ノイズラベル下でのモデル一般化性能を向上させた。
• フレームワークはラベルノイズに対して頑健であり、ラベルが不完全であっても高い性能を維持した。