[논문 리뷰] U-Net-based Models for Skin Lesion Segmentation: More Attention and Augmentation

Pooya Mohammadi Kazaj, MohammadHossein Koosheshi외 2명|arXiv (Cornell University)|2022. 10. 28.

Cutaneous Melanoma Detection and Management인용 수 6

한 줄 요약

이 연구는 ISIC 2016 데이터셋에서 피부 병변 분할 성능을 향상시키기 위해 CBAM 및 피라미드 주의 모듈을 통합한 향상된 U-Net 아키텍처를 제안한다. 또한 고도화된 데이터 증강 기법(특수 헤어 증강 및 CutMix/Mosaic 포함)을 적용한다. U-Net-ResNet50 및 R2U-Net 모델은 특정 데이터 증강 설정에서 가장 높은 Dice 및 IoU 점수를 기록했으며, 제안된 U-Net 피라미드 CBAM 게이트는 내부 및 외부 클래스 불일치 상황에서 다른 모델들을 압도적으로 뛰어넘었다.

ABSTRACT

According to WHO[1], since the 1970s, diagnosis of melanoma skin cancer has been more frequent. However, if detected early, the 5-year survival rate for melanoma can increase to 99 percent. In this regard, skin lesion segmentation can be pivotal in monitoring and treatment planning. In this work, ten models and four augmentation configurations are trained on the ISIC 2016 dataset. The performance and overfitting are compared utilizing five metrics. Our results show that the U-Net-Resnet50 and the R2U-Net have the highest metrics value, along with two data augmentation scenarios. We also investigate CBAM and AG blocks in the U-Net architecture, which enhances segmentation performance at a meager computational cost. In addition, we propose using pyramid, AG, and CBAM blocks in a sequence, which significantly surpasses the results of using the two individually. Finally, our experiments show that models that have exploited attention modules successfully overcome common skin lesion segmentation problems. Lastly, in the spirit of reproducible research, we implement models and codes publicly available.

연구 동기 및 목표

• 주의 메커니즘과 데이터 증강을 활용해 딥러닝 모델의 피부 병변 분할 성능 향상.
• 병변 내부의 색상 변동성 등으로 인한 내부 클래스 불일치 및 정상 피부가 병변으로 오분류되는 외부 클래스 불명확성 등의 일반적인 분할 과제 해결.
• 훈련 및 검증 지표 간 격차를 측정하는 새로운 지표 ΔM(훈련 및 검증 지표의 차이)을 도입하여 모델 일반화 능력과 과적합 정도 평가.
• 복잡한 상황에서 개별 주의 블록보다 뛰어난 성능을 보이는 새로운 주의 모듈인 U-Net 피라미드 CBAM 게이트 개발 및 검증.
• 코드와 학습된 모델를 공개하여 재현 가능성 확보.

제안 방법

• 스킵 연결에 CBAM 및 AG 주의 모듈을 통합한 제안된 U-Net-ResNet50 및 R2U-Net 모델로 기능 주의 향상.
• 피라미드, AG, CBAM 블록을 조합한 새로운 순차적 주의 모듈 설계로 기능 표현 및 분할 강건성 향상.
• 알부멘테이션 기반 증강, Mosaic, CutMix, 두 가지 특수 헤어 증강 기법을 포함한 네 가지 데이터 증강 구성 적용으로 헤어 잡음으로 인한 모델 혼동 감소.
• 다섯 번의 교차 검증을 사용해 ISIC 2016 데이터셋에서 10개의 U-Net 기반 모델 훈련 및 Dice, IoU, Focal Tversky 지표를 통한 성능 평가.
• 훈련 및 검증 점수 간 격차를 측정하는 새로운 지표 ΔM 도입으로 에포크 수준에서 과적합 정도 정량화.
• 평균 훈련 런당 에포크 수를 기반으로 한 새로운 훈련 속도 평가 방법을 도입해 모델 효율성 비교.

실험 결과

연구 질문

• RQ1 CBAM 및 AG 등의 주의 모듈은 U-Net 기반 모델의 피부 병변 분할 성능에 어떻게 기여하는가?
• RQ2 피라미드, AG, CBAM 주의 모듈을 병합해 사용할 경우 개별 사용 대비 어떤 영향을 미치는가?
• RQ3 특히 특수 헤어 증강 및 CutMix/Mosaic 기법을 포함한 데이터 증강 전략 중 과적합을 줄이고 일반화 능력을 향상시키는 데 가장 효과적인 것은 무엇인가?
• RQ4 U-Net-ResNet50 및 R2U-Net는 내부 및 외부 클래스 불일치에 대한 강건성, 훈련 속도 및 분할 정확도 측면에서 어떻게 비교되는가?
• RQ5 주의 모듈은 색상 유사성으로 인한 경계 검출 불량 및 오분류 등의 일반적인 분할 문제를 어느 정도 완화하는가?

주요 결과

• Aug-1 및 Aug-2 데이터 증강 설정을 적용한 U-Net-ResNet50는 최고의 Dice 점수(0.91±0.0)와 IoU 점수(0.83±0.0)를 기록해 뛰어난 분할 성능를 입증했다.
• R2U-Net는 평균 7.8개의 에포크로 가장 빠른 훈련 속도를 보이며 저연산 환경에 적합하다.
• U-Net 피라미드 CBAM 게이트 모델은 외부 클래스 불명확성 및 내부 클래스 불일치 상황, 특히 색상 변동성이 큰 영역에서 U-Net-ResNet50, Double U-Net, R2U-Net를 모두 압도적으로 뛰어넘었다.
• CBAM 모듈은 R2U-Net의 경계 검출 능력과 밝은 색조 영역에서의 강건성을 크게 향상시켜 내부 클래스 불일치를 감소시켰다.
• R2U-Net와 U-Net-ResNet50는 각각 Dice 지표에서 ΔM가 0.009 및 0.015로 가장 낮은 과적합 수준를 보이며 강력한 일반화 능력을 입증했다.
• 특수 헤어 증강 및 CutMix/Mosaic 기법은 헤어 잡음으로 인한 모델 혼동을 크게 감소시키고 외관 변화에 대한 강건성을 향상시켰다.