[논문 리뷰] UCM-Net: A Lightweight and Efficient Solution for Skin Lesion Segmentation using MLP and CNN

Chunyu Yuan, Dongfang Zhao외 1명|arXiv (Cornell University)|2023. 10. 14.

Cutaneous Melanoma Detection and Management인용 수 4

한 줄 요약

UCM-Net은 새로운 UCM-Net 블록을 통해 다층 퍼셉트론(MLP)과 순환 신경망(CNN)을 통합함으로써, 50KB 미만의 파라미터와 0.05 GLOPs 미만의 계산량을 확보하여 이동형 헬스 기기에서의 구현이 가능한 경량이고 효율적인 딥러닝 모델을 제안한다. 이로 인해 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Skin cancer poses a significant public health challenge, necessitating efficient diagnostic tools. We introduce UCM-Net, a novel skin lesion segmentation model combining Multi-Layer Perceptrons (MLP) and Convolutional Neural Networks (CNN). This lightweight, efficient architecture, deviating from traditional UNet designs, dramatically reduces computational demands, making it ideal for mobile health applications. Evaluated on PH2, ISIC 2017, and ISIC 2018 datasets, UCM-Net demonstrates robust performance with fewer than 50KB parameters and requires less than 0.05 Giga Operations Per Second (GLOPs). Moreover, its minimal memory requirement is just 1.19MB in CPU environment positions. It is a potential benchmark for efficiency in skin lesion segmentation, suitable for deployment in resource-constrained settings. In order to facilitate accessibility and further research in the field, the UCM-Net source code is https://github.com/chunyuyuan/UCM-Net.

연구 동기 및 목표

• 자원 제약이 있는 이동형 및 현장 진료 기기에서 고정확도 피부 병변 세그멘테이션 모델을 구현하는 데 도전한다.
• 높은 계산 자원과 큰 파라미터 수를 요구하는 기존 딥러닝 모델의 한계를 극복한다.
• CNN과 MLP를 융합한 하이브리드 아키텍처를 개발하여 특징 학습 능력을 향상시키면서도 모델 크기와 추론 비용을 최소화한다.
• 다양한 외관, 뚜렷하지 않은 경계, 영상 잡음 등이 있는 복잡한 피부 병변 영상에서의 세그멘테이션 정확도를 향상시킨다.
• 매우 효율적이고 저자원 소비 모델을 통해 실시간으로 기기 내에서 피부암 진단을 가능하게 한다. 이는 이동형 의료 기기에서 사용 가능한 모델이다.

제안 방법

• 파라미터 수를 줄이면서도 특징 표현 능력을 향상시키기 위해 CNN과 MLP 구성 요소를 융합한 하이브리드 모듈인 UCM-Net 블록을 제안한다.
• 다양한 UCM-Net 블록을 사용하여 경량 U-Net 기반의 인코더-디코더 아키텍처를 설계함으로써, 최소한의 파라미터로도 높은 세그멘테이션 성능를 유지한다.
• 다중 손실 구성 요소를 동시에 최적화함으로써 훈련 안정성과 세그멘테이션 정확도를 향상시키기 위해 그룹 손실 함수(Group Loss)를 도입한다.
• 특징 계층과 공간 해상도를 유지하면서도 네트워크의 깊이와 너비를 줄여 모델 효율성을 최적화한다.
• UCM-Net 블록을 통해 채널별 및 깊이 기반 분리 합성곱을 암묵적으로 활용하여 FLOPs와 파라미터 수를 감소시킨다.
• 표준 데이터 증강 기법과 학습률 스케줄링을 사용하여 ISIC2017 및 ISIC2018 데이터셋에서 모델을 훈련하고 미세조정한다.

실험 결과

연구 질문

• RQ1 하이브리드 CNN-MLP 아키텍처가 모델 크기와 계산 비용을 크게 줄였음에도 불구하고 뛰어난 피부 병변 세그멘테이션 성능를 달성할 수 있는가?
• RQ2 기본적인 합성곱 블록과 비교했을 때 제안된 UCM-Net 블록은 파라미터 효율성과 세그멘테이션 정확도 측면에서 어떻게 다른가?
• RQ3 기존의 손실 함수에 비해 그룹 손실 함수는 피부 병변 세그멘테이션 성능 향상에 어느 정도 기여하는가?
• RQ4 50KB 미만의 파라미터와 0.05 GLOPs 이하의 계산량을 가진 모델이 벤치마크 피부 병변 세그멘테이션 데이터셋에서 최신 기술 수준의 성능를 달성할 수 있는가?
• RQ5 낮은 추론 비용과 최소한의 메모리 사용량 덕분에 제안된 모델이 이동형 및 엣지 기기에서의 배포에 적합한가?

주요 결과

• Group Loss를 사용할 경우, ISIC2017 데이터셋에서 평균 교차율(mIoU)은 80.63%이며, 평균 덱스 유사도 계수(mDice)는 87.64%를 기록하여 기준 U-Net 및 기타 최신 기술 수준의 모델들을 초월한다.
• 모델의 파라미터 수는 49,932개이며, GFLOPs는 0.0465로, 50KB 이하의 파라미터와 0.05 GLOPs 이하의 계산량을 확보한 첫 번째 피부 병변 세그멘테이션 모델이다.
• 동일한 채널 수를 사용함에도 불구하고, EGE-UNet보다 더 적은 파라미터와 낮은 계산 비용으로도 mIoU와 mDice 모두에서 슈퍼리어한 성능를 보였다.
• 절단 실험 결과, 표준 합성곱 블록을 UCM-Net 블록으로 대체함으로써 파라미터 수가 급격히 감소했음에도 불구하고 성능 향상이 이루어졌으며, mIoU는 78.48%에서 79.76%로 상승했다.
• 그룹 손실 함수의 포함으로 성능이 추가로 향상되었으며, mIoU는 79.76%에서 80.63%로, mDice는 86.94%에서 87.64%로 상승하여, 세그멘테이션 품질 최적화에 효과적임을 입증했다.
• 그림 5의 시각적 결과는 UCM-Net의 세그멘테이션 출력이 정답 애너테이션과 매우 유사하게 나타나며, 복잡한 병변 케이스에서 높은 정밀도와 경계 준엄도를 보임을 보여준다.