[論文レビュー] FHIST: A Benchmark for Few-shot Classification of Histological Images

Fereshteh Shakeri, Malik Boudiaf+5 more|arXiv (Cornell University)|May 31, 2022

AI in cancer detection被引用数 11

ひとこと要約

本稿では、ヒストロロジカル画像の少サンプル分類のための多様な公開ベンチマークであるFHISTを紹介する。複数の公開データセットからデータを統合し、現実的なドメインシフトやクラスの粒度のばらつきを再現する。実験の結果、複雑なメタラーニング手法よりも単純な微調整と正則化手法が優れていることが示され、特にドメインが似ている状況では、最先端の手法が10ショットタスクで90%の精度に達する。

ABSTRACT

Few-shot learning has recently attracted wide interest in image classification, but almost all the current public benchmarks are focused on natural images. The few-shot paradigm is highly relevant in medical-imaging applications due to the scarcity of labeled data, as annotations are expensive and require specialized expertise. However, in medical imaging, few-shot learning research is sparse, limited to private data sets and is at its early stage. In particular, the few-shot setting is of high interest in histology due to the diversity and fine granularity of cancer related tissue classification tasks, and the variety of data-preparation techniques. This paper introduces a highly diversified public benchmark, gathered from various public datasets, for few-shot histology data classification. We build few-shot tasks and base-training data with various tissue types, different levels of domain shifts stemming from various cancer sites, and different class-granularity levels, thereby reflecting realistic scenarios. We evaluate the performances of state-of-the-art few-shot learning methods on our benchmark, and observe that simple fine-tuning and regularization methods achieve better results than the popular meta-learning and episodic-training paradigm. Furthermore, we introduce three scenarios based on the domain shifts between the source and target histology data: near-domain, middle-domain and out-domain. Our experiments display the potential of few-shot learning in histology classification, with state-of-art few shot learning methods approaching the supervised-learning baselines in the near-domain setting. In our out-domain setting, for 5-way 5-shot, the best performing method reaches 60% accuracy. We believe that our work could help in building realistic evaluations and fair comparisons of few-shot learning methods and will further encourage research in the few-shot paradigm.

研究の動機と目的

• ヒストパスロジー分野における少サンプル学習のための標準的で公開されたベンチマークが不足していることに対処する。特に、ラベル付きデータが少なく、アノテーションにコストがかかる状況である。
• がんの種類の多様性、組織の粒度のばらつき、異なるがん部位やデータ準備法に起因するドメインシフトを反映する現実的な評価フレームワークを構築する。
• 統一されたベンチマーク上で最先端の少サンプル学習手法を評価し、公平な比較を可能にするとともに、医療画像分野における実用的で効果的なアプローチを同定する。
• ドメインシフトの3つのシナリオ（ニアドメイン、ミドルドメイン、アウトドメイン）を想定し、分布シフト下での一般化性能を評価する。

提案手法

• CRC-TP、NCT、LC25000、BreakHisを含む複数の公開データセットからヒストロジカル画像を収集・キュエートし、組織タイプと画像プロトコルの多様性を確保することでベンチマークを構築する。
• ドメインシフトのレベルに基づき、3つの少サンプル適応シナリオを設計する：ニアドメイン（類似したデータ分布）、ミドルドメイン（中程度のシフト）、アウトドメイン（顕著なシフト）。モデルの一般化性能を評価する。
• 5ウェイ1ショット、5ショット、10ショットの設定で、サポートセットとクエリセットを定義し、限られたアノテーション例を想定した現実の状況を再現する。
• インダクティブおよびトランスダクティブな少サンプル学習手法を評価する。メタラーニングモデル（例：TIM）とエピソードフリー手法（例：正則化を施した微調整）を含む。
• 複数のバックボーンアーキテクチャ（ResNet-18、Wide-ResNet-28-10、DeiT-Tiny）を、異なる画像サイズで用いて、モデルアーキテクチャの性能への影響を評価する。
• ビジョントランスフォーマー（DeiT-Tiny）に対してImageNetでの事前学習を適用し、特徴表現を向上させ、ランダム初期化および微調整されたバージョンと性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 実際のドメインシフトと多様なドメインシフトを伴う、多様なヒストロジー画像分類ベンチマークにおいて、最先端の少サンプル学習手法はどの程度の性能を示すか？
• RQ2 異なるドメインシフトレベルにおいて、メタラーニング手法が単純な微調整と正則化技術を上回る程度はどの程度か？
• RQ3 事前学習済みビジョントランスフォーマー（例：DeiT-Tiny）は、標準的なCNNと比較して、ヒストロジー画像における少サンプル性能を向上させることができるか？
• RQ4 バックボーンアーキテクチャの選択が、異なるヒストロジー画像データセットおよびショット設定における少サンプル分類精度に与える影響は何か？
• RQ5 ニアドメインおよびアウトドメイン設定において、少サンプル手法と教師ありベースラインとの間の性能差はどの程度か？

主な発見

• 単純な微調整と正則化が、ドメインシフトのすべてのシナリオで複雑なメタラーニング手法を上回る。これは、少サンプル学習においてメタラーニングが不可欠であるという仮定に疑問を呈する。
• ニアドメイン設定では、最高性能を示した手法（TIM）がLC25000データセットで10ショット学習で89.1%の精度を達成し、教師ありベースラインに近づいた。
• 最も挑戦的なアウトドメイン設定（例：CRC-TP → NCT）では、最高性能の手法が5ウェイ5ショット分類で60%の精度に達し、顕著なドメインシフト下でも少サンプル学習の可能性を示した。
• ImageNetでDeiT-Tinyを事前学習することで性能が著しく向上し、10ショット設定でLC25000で89.1%の精度を達成した。ランダム初期化では64.8%にとどまった。
• メタラーニング（TIM）と微調整の性能差は、アウトドメイン設定で最も顕著で、BreakHisで5ウェイ10ショットの設定で微調整＋正則化が69.8%の精度を達成し、TIMを10ポイント以上上回った。
• DeiT-Tinyを用いた場合、同じバックボーンで入力解像度を大きく（224×224）することで、小さな入力（84×84）よりも性能が向上し、特にショット数が少ない状況で顕著だった。