[論文レビュー] MedViT: A Robust Vision Transformer for Generalized Medical Image Classification

Omid Nejati Manzari, Hamid Ahmadabadi+3 more|arXiv (Cornell University)|Feb 19, 2023

COVID-19 diagnosis using AI被引用数 9

ひとこと要約

MedViT は、効率的な畳み込みブロックとマルチ周波数の LTB を備えた CNN-Transformer ハイブリッドアーキテクチャを提案し、MedMNIST-2D データセットに対する adversarial 攻撃に対して堅牢で一般化された医療画像分類を目指す。

ABSTRACT

Convolutional Neural Networks (CNNs) have advanced existing medical systems for automatic disease diagnosis. However, there are still concerns about the reliability of deep medical diagnosis systems against the potential threats of adversarial attacks since inaccurate diagnosis could lead to disastrous consequences in the safety realm. In this study, we propose a highly robust yet efficient CNN-Transformer hybrid model which is equipped with the locality of CNNs as well as the global connectivity of vision Transformers. To mitigate the high quadratic complexity of the self-attention mechanism while jointly attending to information in various representation subspaces, we construct our attention mechanism by means of an efficient convolution operation. Moreover, to alleviate the fragility of our Transformer model against adversarial attacks, we attempt to learn smoother decision boundaries. To this end, we augment the shape information of an image in the high-level feature space by permuting the feature mean and variance within mini-batches. With less computational complexity, our proposed hybrid model demonstrates its high robustness and generalization ability compared to the state-of-the-art studies on a large-scale collection of standardized MedMNIST-2D datasets.

研究の動機と目的

• 医用画像診断における敵対的脅威とドメインシフトの中で、堅牢な医用画像分類を動機づける。
• 低計算量で局所的およびグローバルな特徴モデリングを組み合わせたハイブリッド CNN-Transformer アーキテクチャを開発する。
• グローバル構造特徴への依存を促進し、特徴レベルのデータ拡張を導入することで堅牢性を高める。
• 医用画像モダリティ全体で精度と効率をバランスさせるために、効率的なブロックと多周波数融合を提案する。

提案手法

• 局所特徴学習のために Locally Feed Forward Network (LFFN) と Multi-Head Convolutional Attention (MHCA) を組み合わせた Efficient Convolution Block (ECB) を導入する。
• Efficient Self Attention (ESA) と MHCA を用いてマルチ周波数情報を融合する Local Transformer Block (LTB) を開発し、グローバル-ローカルの結合を実現する。
• Patch Momentum Changer (PMC) を備えた Transformer Augmentation Block (TAB) を用いて特徴レベルで訓練データを増強し、より滑らかな決定境界を促進する。
• 計算量を管理するために、共有ステージごとの畳み込みとトランスフォーマーブロックを含む階層的ピラミッドとしてパッチ埋め込みを採用する。
• 医用コンテキストでのデプロイ効率のために、正規化/活性化を Batch Normalization と ReLU で最適化する。
• 詳細なステージ構成とチャネル次元を備えた複数の MedViT バリアント（T/S/L）を提供する。

実験結果

リサーチクエスチョン

• RQ1 MedViT は多様な医用画像モダリティとドメインシフト全体で堅牢な一般化を達成できるか？
• RQ2 ECB と LTB の組み合わせは局所情報とグローバル情報のモデリングを効率的に強化するか？
• RQ3 PMC 増強は敵対的摂動への堅牢性と滑らかな決定境界の向上に寄与するか？
• RQ4 標準化された MedMNIST-2D データセットにおいて、精度と効率の点で MedViT はベースラインと比較してどの程度の性能を示すか？

主な発見

• MedViT は MedMNIST-2D データセットにおいて最先端研究に対して堅牢性と一般化の利点を示す。
• 標準自己注意を畳み込みベースの注意機構と局所前方伝播ネットワークに置換することで高い効率を達成する。
• PMC の特徴レベル拡張はトークン間の相互作用を広げ、堅牢性と一般化を改善する。
• LTB はマルチ周波数情報を効果的に混合し、軽量設計で性能を向上させる。
• モデルバリアント（MedViT-T/S/L）は、詳細なステージごとのブロックとチャネル数を備えたスケーラブルな構成を提供する。