[論文レビュー] Vision Transformer for Classification of Breast Ultrasound Images

Behnaz Gheflati, Hassan Rivaz|arXiv (Cornell University)|Oct 27, 2021

AI in cancer detection参考文献 18被引用数 4

ひとこと要約

本研究では、限られた医療データセットサイズを補うために事前学習済みViTモデルを用いた転移学習を活用し、乳腺超音波（US）画像の分類にビジョントランスフォーマー（ViT）を導入する。結果として、ViTモデルは最先端のCNNと同等または優れた正確性（86.7％）とAUC（0.95）を達成し、US画像におけるグローバルな解剖的依存関係を自己注意機構が的確に捉えられることを示している。

ABSTRACT

Medical ultrasound (US) imaging has become a prominent modality for breast cancer imaging due to its ease-of-use, low-cost and safety. In the past decade, convolutional neural networks (CNNs) have emerged as the method of choice in vision applications and have shown excellent potential in automatic classification of US images. Despite their success, their restricted local receptive field limits their ability to learn global context information. Recently, Vision Transformer (ViT) designs that are based on self-attention between image patches have shown great potential to be an alternative to CNNs. In this study, for the first time, we utilize ViT to classify breast US images using different augmentation strategies. The results are provided as classification accuracy and Area Under the Curve (AUC) metrics, and the performance is compared with the state-of-the-art CNNs. The results indicate that the ViT models have comparable efficiency with or even better than the CNNs in classification of US breast images.

研究の動機と目的

• ビジョントランスフォーマー（ViT）が乳腺超音波（US）画像の自動分類に実用可能かどうかを検討すること。
• 限られた医療USデータセット上で、事前学習済みViTモデルを転移学習を用いて評価すること。
• 分類正確性およびAUCの観点から、ViTベースのモデルと最先端のCNNとを比較すること。
• データ拡張およびデータセットサイズがViTの性能に与える影響を分析すること。
• 低データ環境における効率的なファインチューニングに最適なViTアーキテクチャを特定すること。

提案手法

• サイズの異なる事前学習済みビジョントランスフォーマー（ViT）モデル（例：B/32、S/32、R/16）を、転移学習を用いて乳腺US画像データセットでファインチューニングした。
• 画像はパッチに分割され埋め込み処理が行われ、分類にはクラストークンが使用され、標準的なViTアーキテクチャに従った。
• 一般化性能を向上させるために、軽いクロップ、回転、明るさ、コントラストなどのデータ拡張技術が適用された。
• 分類正確性および受信者操作特性曲線下積分（AUC）の指標を用いて、複数のデータセット（BUSI、B、BUSI+B）で性能を評価した。
• ファインチューニングは、BUSIとBデータセットを統合したBUSI+Bデータセットで実施され、モデルの一般化性能を向上させた。
• 同じ転移学習プロトコルを用いて、最先端のCNN（ResNet、VGG、Inception、NASNet）と比較実験が行われた。

実験結果

リサーチクエスチョン

• RQ1 ビジョントランスフォーマーは、最先端のCNNと比較して、乳腺超音波画像分類において競争的または優れた性能を達成できるか？
• RQ2 データ拡張は、小規模な医療US画像データセットにおけるファインチューニング済みViTモデルの性能にどのように影響するか？
• RQ3 BUSI＋Bなどの複数のデータセットを統合することで、ViTモデルの一般化性能および性能にどのような影響があるか？
• RQ4 サイズの異なるViTアーキテクチャ（例：B/32、S/32）の中で、性能と計算効率のバランスが最も良いのはどれか？
• RQ5 限られた学習データでも、ViTモデルは乳腺US画像において長距離の空間的依存関係を効果的に学習できるか？

主な発見

• ViT-B/32モデルは、BUSI+Bデータセットで最高の分類正確性86.7％とAUC 0.95を達成し、他のViTおよびCNNアーキテクチャを上回った。
• ViTモデルは、特にVGG、Inception、NASNetのような小規模なモデルと比較して、同等または優れた性能を示した。
• データ拡張技術はViTの性能向上に寄与しなかったことから、US画像の特定の物理的特徴に対しては限定的な利点があると考えられた。
• BUSIとBデータセットを統合したBUSI+Bデータセットは、モデル性能の向上に顕著な効果を示し、B/32モデルはこの統合データセットで86.7％の正確性と0.95のAUCを達成した。
• B/32のような小規模なViTモデルは、S/32やR/16のような大規模モデルと同等の性能を示したため、高い効率性と低コストな計算負荷が確認された。
• 異なるViTアーキテクチャ間での一貫性ある性能は、小規模モデルがトレーニング時間とリソース消費を削減できるため、ファインチューニングに好ましいと示唆された。