[論文レビュー] Self-Supervised Learning for Gastritis Detection with Gastric X-ray Images

Guang Li, Ren Togo+2 more|arXiv (Cornell University)|Apr 7, 2021

Traditional Chinese Medicine Studies参考文献 38被引用数 9

ひとこと要約

本論文は、胃炎検出のための胃エックス線画像から判別能のある表現を学習するため、クロスビューおよびクロスモデル損失を用いた教師-生徒アーキテクチャに基づく新しい自己教師あり学習手法を提案する。この手法は、たった40例のアノテート済み患者症例を用いても、調和平均スコア0.931という高い性能を達成し、5つの自己教師あり学習法および3つの先行学習法を上回る性能を示した。

ABSTRACT

Purpose: Manual annotation of gastric X-ray images by doctors for gastritis detection is time-consuming and expensive. To solve this, a self-supervised learning method is developed in this study. The effectiveness of the proposed self-supervised learning method in gastritis detection is verified using a few annotated gastric X-ray images. Methods: In this study, we develop a novel method that can perform explicit self-supervised learning and learn discriminative representations from gastric X-ray images. Models trained based on the proposed method were fine-tuned on datasets comprising a few annotated gastric X-ray images. Five self-supervised learning methods, i.e., SimSiam, BYOL, PIRL-jigsaw, PIRL-rotation, and SimCLR, were compared with the proposed method. Furthermore, three previous methods, one pretrained on ImageNet, one trained from scratch, and one semi-supervised learning method, were compared with the proposed method. Results: The proposed method's harmonic mean score of sensitivity and specificity after fine-tuning with the annotated data of 10, 20, 30, and 40 patients were 0.875, 0.911, 0.915, and 0.931, respectively. The proposed method outperformed all comparative methods, including the five self-supervised learning and three previous methods. Experimental results showed the effectiveness of the proposed method in gastritis detection using a few annotated gastric X-ray images. Conclusions: This paper proposes a novel self-supervised learning method based on a teacher-student architecture for gastritis detection using gastric X-ray images. The proposed method can perform explicit self-supervised learning and learn discriminative representations from gastric X-ray images. The proposed method exhibits potential clinical use in gastritis detection using a few annotated gastric X-ray images.

研究の動機と目的

• 胃炎検出における専門家によるアノテート済み胃エックス線画像の取得にかかる高コストと長時間の課題に対処すること。
• 手動ラベルに依存せずに判別能のある表現を学習する自己教師あり学習手法を開発すること。
• 少数のアノテート済み胃エックス線画像のみを用いても検出性能を向上させること。
• 提案手法の有効性を、既存の自己教師ありおよび教師ありベースラインと比較して検証すること。
• 限定的なアノテーションで実現可能な医療画像における自己教師あり表現学習の臨床的潜在的可能性を示すこと。

提案手法

• 教師-生徒ニューラルネットワークアーキテクチャを用い、生徒ネットワークが同じ胃エックス線画像の2つの拡張ビューを処理する。
• クロスビュー損失は、生徒ネットワークが生成する2つの拡張ビューの表現間の距離を最小化する。
• クロスモデル損失は、教師および生徒ネットワークが同じビューから生成する表現間の距離を最小化する。
• 生徒ネットワークは、対照的学習用に特徴を投影するためのマルチレイヤーパーセプトロン（MLP）ヘッドを用いる。
• これらの2つの損失を用いて、多数のラベルなし胃エックス線画像で事前学習を行う。
• 事前学習後、10～40例の患者症例に限定された専門家アノテート済みデータセットで微調整を行う。

実験結果

リサーチクエスチョン

• RQ1 クロスビューおよびクロスモデル損失を用いた自己教師あり学習は、胃エックス線画像から判別能のある表現を効果的に学習できるか？
• RQ2 本手法は、既存の自己教師あり学習手法（例：SimSiam、BYOL、SimCLR）と比較して、胃炎検出においてどのように性能を発揮するか？
• RQ3 本手法は、わずかな数のアノテート済み胃エックス線画像でのみ、どの程度高い検出性能を達成できるか？
• RQ4 限定的なアノテート済みデータで微調整した場合、本手法は教師ありおよび半教師ありベースラインを上回るか？
• RQ5 限定的なアノテーション作業で、事前学習済みエンコーダーを患者レベルの胃炎検出に効果的に転送できるか？

主な発見

• 本手法は、10例のアノテート済み患者症例で調和平均スコア0.875を達成し、40例で0.931まで向上した。
• 本手法は、5つの自己教師あり学習手法（SimSiam、BYOL、PIRL-jigsaw、PIRL-rotation、SimCLR）をすべて上回った。
• また、3つの先行手法（ImageNet事前学習済み、ランダム重み初期化、半教師あり学習モデル）に対しても優れた性能を示した。
• クロスビューおよびクロスモデル損失により、複雑な胃エックス線画像における特徴の判別能が明示的に向上した。
• 結果から、本手法が最小限のアノテーション要件で臨床的用途に有効であることが示された。
• 著者らの知る限り、本研究は、胃エックス線画像を用いた胃炎検出における自己教師あり学習の妥当性を初めて検証した研究である。