[論文レビュー] Feature based Sequential Classifier with Attention Mechanism

Sudhir Sornapudi, R. Joe Stanley+6 more|arXiv (Cornell University)|Jul 22, 2020

Handwritten Text Recognition Techniques参考文献 29被引用数 6

ひとこと要約

本稿では、高解像度上皮組織画像を用いた子宮頸がん前がん病変の重症度分類のための新しいアテンションベースの逐次分類器であるDeepCINを提案する。本手法は、上皮組織の基底膜から表面までを下位から上位へと疾患進行をモデル化する二段階エンコーダーを用い、垂直方向のセグメント特徴列を生成し、アテンション機構で統合することで、病理医水準の精度でCIN重症度（正常、CIN1、CIN2、CIN3）を分類する。

ABSTRACT

Cervical cancer is one of the deadliest cancers affecting women globally. Cervical intraepithelial neoplasia (CIN) assessment using histopathological examination of cervical biopsy slides is subject to interobserver variability. Automated processing of digitized histopathology slides has the potential for more accurate classification for CIN grades from normal to increasing grades of pre-malignancy: CIN1, CIN2 and CIN3. Cervix disease is generally understood to progress from the bottom (basement membrane) to the top of the epithelium. To model this relationship of disease severity to spatial distribution of abnormalities, we propose a network pipeline, DeepCIN, to analyze high-resolution epithelium images (manually extracted from whole-slide images) hierarchically by focusing on localized vertical regions and fusing this local information for determining Normal/CIN classification. The pipeline contains two classifier networks: 1) a cross-sectional, vertical segment-level sequence generator (two-stage encoder model) is trained using weak supervision to generate feature sequences from the vertical segments to preserve the bottom-to-top feature relationships in the epithelium image data; 2) an attention-based fusion network image-level classifier predicting the final CIN grade by merging vertical segment sequences. The model produces the CIN classification results and also determines the vertical segment contributions to CIN grade prediction. Experiments show that DeepCIN achieves pathologist-level CIN classification accuracy.

研究の動機と目的

• 組織病理スライドからの子宮頸がん前がん病変（CIN）重症度の評価における観察者間ばらつきを是正すること。
• 基底膜から上皮表面までの空間的進行をモデル化すること。
• 全スライド画像を用いた自動的で階層的なディープラーニングパイプラインを構築し、CIN分類を高精度に実現すること。
• どの垂直的上皮セグメントがCIN重症度予測に最も寄与しているかを特定することで、解釈可能性を向上させること。
• ピクセルレベルのアノテーションを必要としない弱い教師あり学習を用いて、専門家病理医と同等の分類性能を達成すること。

提案手法

• 焦点的な分析のため、全スライド画像から高解像度の上皮領域を抽出する。
• 下位から上位への空間的階層を保持するように、垂直セグメントからの逐次的特徴表現を生成する二段階エンコーダーを用いる。
• ピクセルレベルのアノテーションが不要なため、スライドレベルのラベルを用いた弱い教師あり学習により、セグメントレベル分類器を訓練する。
• アテンションに基づく統合ネットワークを適用し、垂直セグメントの系列を統合してグローバルな画像レベルの予測を生成する。
• アテンション重みを活用して、CIN重症度分類に寄与する重要なセグメントを特定することで、モデルの意思決定を解釈可能にする。
• マルチクラスCIN重症度分類（正常、CIN1、CIN2、CIN3）のため、交差エントロピー損失を用いてエンドツーエンドのパイプラインを最適化する。

実験結果

リサーチクエスチョン

• RQ1 垂直的上皮進行をモデル化するアテンション機構を備えた逐次分類器は、CIN重症度分類の精度を向上させることができるか？
• RQ2 完全なアノテーションがなくても、セグメントレベル特徴抽出器を弱い教師あり学習で効果的に学習できるか？
• RQ3 アテンション機構は、CIN予測において生物学的に関連する領域をどの程度正確に特定できるか？
• RQ4 垂直セグメント特徴の階層的統合は、従来のパッチベースや全画像分類よりも優れた性能を示すか？
• RQ5 スライドレベルのラベルのみを用いて、病理医水準のCIN分類精度を達成できるか？

主な発見

• DeepCINは、正常とCIN1、CIN2、CIN3の区別において、病理医水準の分類精度を達成した。
• アテンション機構は、臨床的に関連する垂直的上皮セグメントを的確に特定し、モデルの解釈可能性を向上させた。
• 二段階エンコーダーは、上皮組織における下位から上位への空間的関係を効果的に保持し、逐次的分析に適した特徴表現を向上させた。
• ピクセルレベルのアノテーションを必要としないスライドレベルラベルを用いた弱い教師あり学習により、セグメントレベル特徴の有効な学習が可能となった。
• アテンションを用いた垂直セグメント系列の統合は、グローバルプーリングや単純平均化を用いるベースライン手法よりも優れた性能を示した。
• 多様な全スライド画像に対して、本モデルは頑健で一般化能力に優れており、臨床応用の可能性を示している。