[논문 리뷰] Connection Sensitive Attention U-NET for Accurate Retinal Vessel Segmentation

Ruirui Li, Mingming Li외 2명|arXiv (Cornell University)|2019. 03. 13.

Retinal Imaging and Analysis참고 문헌 25인용 수 36

한 줄 요약

CSA U-Net를 소개하며 연결 민감 손실과 주의 게이트를 결합하여 가느다란 혈관과 경계를 보존하고, DRIVE, STARE, HRF에서 선도적 결과를 달성합니다.

ABSTRACT

We develop a connection sensitive attention U-Net(CSAU) for accurate retinal vessel segmentation. This method improves the recent attention U-Net for semantic segmentation with four key improvements: (1) connection sensitive loss that models the structure properties to improve the accuracy of pixel-wise segmentation; (2) attention gate with novel neural network structure and concatenating DOWN-Link to effectively learn better attention weights on fine vessels; (3) integration of connection sensitive loss and attention gate to further improve the accuracy on detailed vessels by additionally concatenating attention weights to features before output; (4) metrics of connection sensitive accuracy to reflect the segmentation performance on boundaries and thin vessels. Our method can effectively improve state-of-the-art vessel segmentation methods that suffer from difficulties in presence of abnormalities, bifurcation and microvascular. This connection sensitive loss tightly integrates with the proposed attention U-Net to accurately (i) segment retinal vessels, and (ii) reserve the connectivity of thin vessels by modeling the structural properties. Our method achieves the leading position on DRIVE, STARE and HRF datasets among the state-of-the-art methods.

연구 동기 및 목표

• 망내 혈관의 정확한 분할을 가느다란 영역과 경계에 중점을 두고 촉진합니다.
• 픽셀 단위 분할을 안내하기 위해 연결성 및 국부 구조 특성을 부호화하는 손실 함수를 개발합니다.
• 스킵 연결에서 미세 혈관 구조 학습을 강화하기 위해 주의 메커니즘을 통합합니다.
• 경계 및 가느다란 혈관의 성능을 반영하기 위해 연결 민감 정확도라는 새로운 평가 지표를 제안합니다.
• 공개 망내 혈관 벤치마크(DRIVE, STARE, HRF)에서 최첨단 성능을 보여줍니다.

제안 방법

• Attention U-Net과 유사한 향상된 스킵 연결을 갖춘 4블록 인코더-디코더 U-Net을 제안합니다.
• 로컬 연결 기반 계수 θ1 및 θ2로 픽셀 단위 교차 엔트로피를 가중하는 연결 민감 손실 L_cs를 도입합니다(C_i로부터 도출).
• 5×5 로컬 밀도 추정과 몬테카를로 샘플링을 통해 패치의 연결 확률을 모델링하고 L_cs의 θ1, θ2를 안내합니다.
• 출력 전에 최종 주의 가중치를 특징에 연결하고 정제된 게이팅 계수를 계산하는 UP-Link 아키텍처의 주의 게이트를 도입합니다.
• AdamW로 엔드 투 엔드 학습을 수행하고 데이터 증강, 다중 데이터셋 검증, 동적 학습률 전략을 사용합니다.
• 경계 및 가느다란 혈관의 정합성을 강조하는 새로운 정확도 지표 ACC_cs를 도입합니다.

실험 결과

연구 질문

• RQ1 연결 인지 손실이 표준 픽셀 단위 손실을 넘어서 가느다란 망내 혈관과 경계 세부 정보를 보존하는 데 향상될 수 있는가?
• RQ2 연결 가이드가 포함된 새로운 주의 게이트를 통합하면 분지 및 교차 지점에서 혈관 구분이 더 잘 수행되는가?
• RQ3 CSAU는 DRIV E, STARE, HRF와 같은 기존 망내 혈관 벤치마크에서 최첨단 방법과 비교해 어떻게 성능을 보이는가?
• RQ4 제안된 연결 민감 정확도 지표가 경계 및 가느다란 혈관 분할 성능 평가에 효과적인가?
• RQ5 CS 손실과 주의 게이트의 상대적 기여도는 전체 성능에 어떤 영향을 미치는가?

주요 결과

방법	DRIVE ROC AUC	DRIVE PR AUC	DRIVE F1-score	DRIVE 민감도	DRIVE 정확도	DRIVE ACC_cs
K-Boost	0.9307	0.8464	0.7797	0.7563	0.9456	0.6739
HED	0.9696	0.8773	0.7938	0.7943	0.9475	0.7016
Wavelets	0.9436	0.8149	0.7601	0.7628	0.9387	0.6839
N4-Fields	0.9686	0.8851	0.8021	0.7994	0.9498	0.7178
DRIU	0.9793	0.9064	0.8210	0.8261	0.9541	0.7470
CRFs	–	–	0.7799	0.7829	0.9438	0.6785
VGAN	0.9803	0.9142	0.8277	0.8300	0.9560	0.7537
CSAU	0.9807	0.9157	0.8294	0.8349	0.9563	0.7751

• CSAU는 DRIV E, STARE, HRF 데이터세트에서 보고된 방법들 중 F1-점수, ROC AUC 및 민감도 측면에서 선두를 차지합니다.
• DRIVE에서 CSAU는 VGAN 대비 F1-score를 최대 0.?? 포인트까지 개선하고 DRIU보다 더 높은 ACC_cs를 달성하여 경계 및 가느다란 혈관 분할이 더 우수함을 시사합니다.
• STARE에서 CSAU는 ROC AUC 및 ACC_cs에서 비교대비 상당한 향상을 보여 최상의 지표를 달성합니다.
• HRF에서 CSAU는 최고 ROC AUC를 제공하고 게시된 방법들에 비해 PR AUC 및 F1-score도 경쟁력 있게 나타납니다.
• 새로운 연결 민감 정확도 지표 ACC_cs는 경계 및 가느다란 혈관의 개선을 반영하며 분할 출력에서 보이는 질적 이점과 정렬됩니다.
• 제거 연구(Ablation studies)에서 CS 손실과 주의 메커니즘 모두 성능 향상에 기여하며, 두 가지의 조합이 최상의 결과를 냈습니다.