[論文レビュー] Evaluating the Robustness of Self-Supervised Learning in Medical Imaging

Fernando Navarro, Christopher Watanabe+5 more|arXiv (Cornell University)|May 14, 2021

COVID-19 diagnosis using AI参考文献 29被引用数 17

ひとこと要約

本論文は、医療画像における自己教師あり学習（SSL）のロバスト性と一般化性能を評価し、クリーンデータにおける性能向上がわずかであるものの、ぼかし、ノイズ、解像度の変化といった画像の劣化下でも、肺炎検出および多臓器セグメンテーションのタスクにおいて、完全に教師あり学習されたネットワークを上回ることを示している。主な貢献は、SSLの真の利点がクリーンデータにおける精度向上ではなく、ロバストな特徴学習にあることを明らかにしたことである。

ABSTRACT

Self-supervision has demonstrated to be an effective learning strategy when training target tasks on small annotated data-sets. While current research focuses on creating novel pretext tasks to learn meaningful and reusable representations for the target task, these efforts obtain marginal performance gains compared to fully-supervised learning. Meanwhile, little attention has been given to study the robustness of networks trained in a self-supervised manner. In this work, we demonstrate that networks trained via self-supervised learning have superior robustness and generalizability compared to fully-supervised learning in the context of medical imaging. Our experiments on pneumonia detection in X-rays and multi-organ segmentation in CT yield consistent results exposing the hidden benefits of self-supervision for learning robust feature representations.

研究の動機と目的

• 自己教師あり学習（SSL）が、クリーンデータにおける精度を超えて医療画像分野で利点をもたらすかどうかを調査すること。
• 臨床的画像で一般的に見られるさまざまな画像劣化下におけるSSLモデルのロバスト性を評価すること。
• 異なる画像センターまたはプロトコルからのデータ分布とは異なる未観測データに展開した際のSSL特徴の一般化性能を評価すること。
• 標準的な評価指標がクリーンデータにのみ注目するため、SSLの優れた性能が隠れてしまうかどうかを特定すること。
• SSLが低データ環境下でロバストで転移可能な表現の基盤として機能できるかどうかを調査すること。

提案手法

• Pneumonia検出のためのResNet-18および多臓器セグメンテーションのためのU-Netを、完全に教師あり学習および自己教師あり学習による事前学習を用いて訓練した。
• 分布シフト下でのロバスト性を評価するために、7種類の標準的な画像劣化（例：ガウスノイズ、明るさのシフト、解像度の変化）を適用した。
• 空間的関係を学習するためにパッチの順序入れ替え予測を課すことで、ネットワークに空間的関係を学習させるためにJigsawNetを自己教師ありの事前学習タスクとして用いた。
• 精度（分類）およびDiceスコア（セグメンテーション）を用いて、劣化下での性能を評価し、SSLと完全に教師ありベースラインを比較した。
• ドメイン一般化テストとして、あるデータセット（例：LIDC-IDRI）で訓練したモデルを別のテストセット（KITS2019）に展開し、ドメイン間での性能を測定した。
• ロバストネスの向上を検証するために、p < 0.001の有意性検定を、劣化タイプごとに実施した。

実験結果

リサーチクエスチョン

• RQ1 自己教師あり学習は、完全に教師あり学習と比較して、医療画像における一般的な画像劣化に対してモデルのロバスト性を向上させるか？
• RQ2 異なるドメインや画像取得プロトコルからのデータに展開した場合、自己教師あり表現はより一般化可能か？
• RQ3 クリーンデータでの性能が類似しているにもかかわらず、なぜ自己教師ありモデルが分布シフト下で完全に教師ありモデルを上回るのか？
• RQ4 どの種類の画像劣化が、自己教師あり学習のロバストネス優位性を最も強く露呈するか？
• RQ5 自己教師ありモデルの優れた一般化性能は、JigsawNetのような事前学習タスクを通じて空間的に一貫性があり、不変な特徴を学習することに起因するか？

主な発見

• ガウスノイズ、明るさのシフト、解像度の変化などの画像劣化下で、自己教師あり学習は完全に教師あり学習よりも有意に高い平均精度を達成した（p < 0.001）。
• 多臓器セグメンテーションにおいて、自己教師ありモデルはKITS2019で0.670 ± 0.209のDiceスコアを達成したのに対し、完全に教師ありモデルは0.486 ± 0.246であった（p値：0.0002）。
• ガウスノイズ、コントラスト、解像度の劣化下において、自己教師ありモデルは優れた性能を示し、すべての劣化タイプでp < 0.001であった。
• 定性的な分析では、自己教師ありモデルの予測は、ガウスノイズ下でも一貫性があり、正しく臓器をセグメンテーションしていたが、完全に教師ありモデルは失敗し、ラベルが逆転していた。
• 自己教師ありモデルのロバストネスは、JigsawNetという事前学習タスクを通じて空間的関係を学習したことにより、より強く不変な特徴表現が得られたことに起因している。
• クリーンデータでの性能が類似しているにもかかわらず、自己教師ありモデルはドメインをまたいで顕著に優れた一般化性能を示しており、これはSSLが医療画像分野でロバストネスという隠れた利点を提供していることを示している。