[論文レビュー] CASS: Cross Architectural Self-Supervision for Medical Image Analysis

Pranav Singh, Elena Sizikova+1 more|arXiv (Cornell University)|Jun 8, 2022

AI in cancer detection被引用数 6

ひとこと要約

CASSは、応答ベースの対照的学習を用いて、畳み込みニューラルネットワーク（CNN）とビジョン Transformer を共同で事前学習する、画期的なクロスアーキテクチャ自己教師付き学習手法を提案する。この手法は、低データ医療画像認識における表現学習を向上させ、わずか1%のラベル付きデータを用いても最先端の性能を達成し、訓練時間を前例の手法と比較して69%短縮する。

ABSTRACT

Recent advances in deep learning and computer vision have reduced many barriers to automated medical image analysis, allowing algorithms to process label-free images and improve performance. However, existing techniques have extreme computational requirements and drop a lot of performance with a reduction in batch size or training epochs. This paper presents Cross Architectural - Self Supervision (CASS), a novel self-supervised learning approach that leverages Transformer and CNN simultaneously. Compared to the existing state of the art self-supervised learning approaches, we empirically show that CASS-trained CNNs and Transformers across four diverse datasets gained an average of 3.8% with 1% labeled data, 5.9% with 10% labeled data, and 10.13% with 100% labeled data while taking 69% less time. We also show that CASS is much more robust to changes in batch size and training epochs. Notably, one of the test datasets comprised histopathology slides of an autoimmune disease, a condition with minimal data that has been underrepresented in medical imaging. The code is open source and is available on GitHub.

研究の動機と目的

• 自己免疫疾患のような未発症の疾患においても、ラベル付きデータが限られている医療画像解析の課題に対処すること。
• 既存の自己教師付き学習手法における計算効率の低さとハイパーパrameterへの感受性を克服すること。
• CNN（局所的不変性）とTransformer（グローバルアテンション）の両者の長所を活かしたハイブリッドアーキテクチャの開発により、表現学習の向上を図ること。
• 特に自己免疫疾患や希少疾患画像認識で一般的な低データ状況において、最小限のラベル付きデータで下流タスクの性能を向上させること。
• さまざまなバッチサイズや訓練エポック数においても高い性能を維持する、計算効率の高い手法の構築

提案手法

• CASSは、入力画像を並列に処理する二重ブランチアーキテクチャを採用しており、それぞれのブランチでCNNとビジョンTransformerが処理を行う。
• 両ブランチの特徴表現は、2つのアーキテクチャの出力同士を一致させる対照的損失を用いて比較される。
• 本手法は、応答ベースの対照的学習を採用しており、同一画像が異なるネットワークアーキテクチャを通じて生成されたペアをポジティブペアとして形成する。
• 自己教師付き事前学習は、各ブランチに独立して標準的なデータ拡張（クロップ、カラーのジャマ、反転など）を適用することで実施される。
• 事前学習後、小規模なラベル付きデータを用いてファインチューニングが下流分類タスクで実施され、クラス不均衡を補うためにフォーカル損失が使用される。
• 本フレームワークは、自己免疫疾患組織像、皮膚科画像、脳腫瘍MRI、皮膚病変分類の4つのデータセットで評価された。

実験結果

リサーチクエスチョン

• RQ1 CNNとTransformerアーキテクチャをクロスアーキテクチャ自己教師付き学習で統合することで、低データ医療画像認識における表現学習が向上するか？
• RQ2 極端なラベル不足（1%、10%、100%のラベル付きデータ）下で、CASSは最先端の自己教師付き手法と比較してどの程度の性能を示すか？
• RQ3 既存手法と比較して、バッチサイズや訓練エポック数の変更に対してCASSはどの程度のロバストネスを示すか？
• RQ4 自己免疫疾患のような未発症の医療状態において、CASSはより優れた性能を発揮するか？
• RQ5 既存の自己教師付きアプローチと比較して、CASSは性能を維持または向上させつつ、訓練時間を短縮できるか？

主な発見

• 4つのデータセットにおいて、CASSは1%のラベル付きデータを用いた場合、最先端の自己教師付き手法と比較してF1スコアとリコールの平均で3.8%向上した。
• 10%のラベル付きデータを用いた場合、CASSは既存手法と比較してF1とリコールの平均で5.9%の向上を達成した。
• 完全に教師あり学習（100%のラベル付きデータ）の場合、CASSはF1とリコールの平均で10.13%の向上を示し、優れた一般化性能を示した。
• CASSは、現在の最先端手法と比較して平均して69%の訓練時間を短縮し、著しく効率的であることがわかった。
• CASSは、さまざまなバッチサイズや訓練エポック数においても一貫した性能を維持しており、既存手法よりも高いロバストネスを示した。
• 自己免疫疾患組織像データセットでは、CASSは前回の最先端手法と比較して2.55%の向上を達成し、低データかつ未発症疾患状況での有効性を示した。