[論文レビュー] The Little W-Net That Could: State-of-the-Art Retinal Vessel Segmentation with Minimalistic Models

Adrián Galdrán, André Anjos+4 more|arXiv (Cornell University)|Sep 3, 2020

Retinal Imaging and Analysis被引用数 16

ひとこと要約

本論文は、最先端のモデルと比較してパラメータ数が桁違いに少ない最小限のW-Netアーキテクチャを提案し、複数のベンチマークデータセットで最先端の網膜血管セグメンテーション性能を達成した。単純な構造にもかかわらず、AUCおよびDICEスコアの両面で複雑なモデルを上回り、リソース制約のある環境における実装に非常に効率的である。

ABSTRACT

The segmentation of the retinal vasculature from eye fundus images represents one of the most fundamental tasks in retinal image analysis. Over recent years, increasingly complex approaches based on sophisticated Convolutional Neural Network architectures have been slowly pushing performance on well-established benchmark datasets. In this paper, we take a step back and analyze the real need of such complexity. Specifically, we demonstrate that a minimalistic version of a standard U-Net with several orders of magnitude less parameters, carefully trained and rigorously evaluated, closely approximates the performance of current best techniques. In addition, we propose a simple extension, dubbed W-Net, which reaches outstanding performance on several popular datasets, still using orders of magnitude less learnable weights than any previously published approach. Furthermore, we provide the most comprehensive cross-dataset performance analysis to date, involving up to 10 different databases. Our analysis demonstrates that the retinal vessel segmentation problem is far from solved when considering test images that differ substantially from the training data, and that this task represents an ideal scenario for the exploration of domain adaptation techniques. In this context, we experiment with a simple self-labeling strategy that allows us to moderately enhance cross-dataset performance, indicating that there is still much room for improvement in this area. Finally, we also test our approach on the Artery/Vein segmentation problem, where we again achieve results well-aligned with the state-of-the-art, at a fraction of the model complexity in recent literature. All the code to reproduce the results in this paper is released.

研究の動機と目的

• 網膜血管セグメンテーションのための深層学習モデルの過剰な複雑化という一般的な傾向に挑戦すること。
• 最小限のアーキテクチャが、複雑で最先端のモデルと同等またはそれ以上の性能を達成できるかどうかを評価すること。
• 10種類の多様なデータベースを含む、これまでで最も包括的な網膜血管セグメンテーションのクロスデータセット評価を実施すること。
• 現在のモデルがドメイン間で一般化する能力にどのような限界を示しているかを調査し、ドメイン適応戦略を検討すること。
• 最小限のアプローチを動脈・静脈セグメンテーションタスクに拡張し、モデルの複雑さを低減しながら競争力のある結果を得ること。

提案手法

• 標準的なU-Netを基に、深さと幅を削減することで得られる、学習可能なパラメータがたった68K個の最小限のW-Netの変種を提案する。
• ターゲットドメインのラベルなしデータを活用することで、クロスデータセット一般化性能を向上させる自己ラベル付け戦略を採用する。
• 交差エントロピー損失とデータオーグメンテーションを用いた標準的なトレーニング手順を採用し、推論時にはテスト時オーグメンテーションも適用する。
• ブートストラップリサンプリングを用いて、性能差の統計的有意性を厳密に評価する。
• パラメータ数ではなくアーキテクチャ設計の利点を検証するために、より大きなU-Net（76Kパラメータ）と比較する。
• 再現性を確保し、今後の研究を促進するために、すべてのコードとトレーニング済みモデルを公開する。

実験結果

リサーチクエスチョン

• RQ1 顕著に少ないパラメータ数を持つ最小限のディープラーニングモデルが、網膜血管セグメンテーションで最先端の性能を達成できるか？
• RQ2 多様なデータセット上で、最小限のW-Netの性能は、最近発表されたより複雑なアーキテクチャと比べてどの程度か？
• RQ3 トレーニング分布とは異なるデータセットでテストした場合、モデルの一般化性能がどの程度低下するか？
• RQ4 追加のアノテーションを必要とせず、単純な自己ラベル付け戦略がクロスデータセット性能を向上させられるか？
• RQ5 標準ベンチマークで高い性能を示しているにもかかわらず、ドメイン適応技術の適用の余地が網膜血管セグメンテーションタスクにまだ残っているか？

主な発見

• 最小限のW-Netは、DRIVEで82.82、CHASE-DBで81.55、HRFで81.04のDICEスコアを達成し、より大きなU-Net（76Kパラメータ）を上回り、より複雑なモデルと同等またはそれを上回る性能を示した。
• 最小限のW-Netは、DRIVEで98.09、CHASE-DBで98.44、HRFで98.24のAUCを達成し、既存のSOTAモデルと比較して優れた性能を示した。
• ブートストラップリサンプリングによる統計的分析により、全データセットで5%の有意水準において、W-Netの性能がより大きなU-Netを有意に上回ることが確認された。
• モデルはたった325KBのディスク容量しか必要とせず、ポータブルまたは組み込みデバイスへのデプロイに非常に適している。
• クロスデータセット評価から、トレーニングセットとは異なるデータでテストした場合、性能が顕著に低下することが明らかになり、ドメイン適応の必要性が浮き彫りになった。
• 自己ラベル付け戦略により、クロスデータセット一般化性能に中程度の向上が見られたことから、ドメイン適応によるさらなる向上の余地があることが示唆された。