[논문 리뷰] Medical Image Segmentation via Sparse Coding Decoder

Long Zeng, Kaigui Wu|arXiv (Cornell University)|2023. 10. 17.

Advanced Image and Video Retrieval TechniquesComputer Science인용 수 3

한 줄 요약

이 논문은 의료 영상 분할 성능을 햖스하기 위해 특징을 희소 벡터로 표현하여 공간적 세부 정보 복원을 향상시키는 새로운 계단식 다층 컨volutional 스퍼스 벡터 코드 디코더인 CASCSCDE를 제안한다. TransUNet와 통합하여 Synapse 다기관 분할 벤치마크에서 DICE 스코어에 3.15%p, mIoU에 1.16%p의 절대적 향상을 이룩하였으며, 희소 인코딩과 다중 수준 특징 융합을 통해 뛰어난 경계 재구성 능력과 강건성을 입증하였다.

ABSTRACT

Transformers have achieved significant success in medical image segmentation, owing to its capability to capture long-range dependencies. Previous works incorporate convolutional layers into the encoder module of transformers, thereby enhancing their ability to learn local relationships among pixels. However, transformers may suffer from limited generalization capabilities and reduced robustness, attributed to the insufficient spatial recovery ability of their decoders. To address this issue, A convolution sparse vector coding based decoder is proposed , namely CAScaded multi-layer Convolutional Sparse vector Coding DEcoder (CASCSCDE), which represents features extracted by the encoder using sparse vectors. To prove the effectiveness of our CASCSCDE, The widely-used TransUNet model is chosen for the demonstration purpose, and the CASCSCDE is incorporated with TransUNet to establish the TransCASCSCDE architecture. Our experiments demonstrate that TransUNet with CASCSCDE significantly enhances performance on the Synapse benchmark, obtaining up to 3.15\% and 1.16\% improvements in DICE and mIoU scores, respectively. CASCSCDE opens new ways for constructing decoders based on convolutional sparse vector coding.

연구 동기 및 목표

• 트랜스포머 기반 디코더의 제한된 공간 복원 능력과 낮아진 강건성 문제를 해결하기 위해.
• 희소 벡터 표현을 활용하여 일반화 능력과 노이즈 내성 향상을 도모하기 위해.
• 고수준 의미적 특징과 저수준 공간적 세부 정보를 효과적으로 융합하여 정밀한 경계 국소화를 가능하게 하기 위해.
• 2차원 의료 영상 분할을 위한 계단식 다층 아키텍처에서 컨volutional 스퍼스 코드화의 효과를 입증하기 위해.

제안 방법

• CASCSCDE 디코더는 인코더가 추출한 특징을 희소 벡터로 표현하기 위해 계단식 다층 컨volutional 스퍼스 코드화 프레임워크를 사용한다.
• 학습 가능한 신경 모듈(ML-block) 내에서 반복 최적화를 수행하며, 전치 컨볼루션과 잔차 오차 보정을 번갈아 적용하여 특징 재구성을 정밀하게 개선한다.
• ML-block은 학습된 가중치 W1, W2 및 스케일링 인자 c1, c2를 사용해 반복 업데이트를 수행하며, 배치 정규화와 ReLU 활성화 함수를 적용해 희소성과 안정성을 강화한다.
• 디코더는 TransUNet 아키텍처에 통합되어 원래의 디코더를 대체하여 TransCASCSCDE를 구성하며, 엔드 투 엔드 학습을 가능하게 한다.
• 다층 구조를 통해 희소 코드화를 적용하여 불필요한 정보를 억제하고 특징의 해석 가능성과 강건성을 향상시킨다.
• 모델은 Synapse 데이터셋에서 랜덤 플립 및 회전을 통한 데이터 증강과 함께 교차 엔트로피 손실과 DICE 손실의 조합을 사용해 학습된다.

실험 결과

연구 질문

• RQ1 희소 코드화 기반 디코더는 비전 트랜스포머 인코더의 공간적 세부 정보 복원 능력을 의료 영상 분할에서 향상시킬 수 있는가?
• RQ2 표준 디컨볼루션 디코더에 비해 다층 컨볼루션 희소 코드화는 분할 정확도와 강건성 측면에서 어떻게 비교되는가?
• RQ3 희소 코드화 과정에서 최적의 반복 정밀화 단계 수(T)는 얼마이며, 희소성과 성능 간의 균형을 어떻게 확보할 수 있는가?
• RQ4 제안된 CASCSCDE 디코더는 크기가 다样的하고 특히 작거나 복잡한 구조를 가진 기관들에 대해 일반화 가능한가?
• RQ5 희소 코드화가 의료 영상 분할에서 노이즈 내성과 경계 정밀도 향상에 얼마나 기여하는가?

주요 결과

• TransCASCSCDE는 Synapse 다기관 분할 벤치마크에서 기준 모델인 TransUNet 대비 평균 DICE 스코어 3.15%p 향상(80.63%)을 달성하였다.
• mIoU가 1.16%p 향상되어 전체 분할 일관성과 경계 국소화 능력 향상이 확인되었다.
• 작은 기관에 대한 유의미한 성능 향상이 관찰되었으며, 담낭(+4.05%), 왼쪽 신장(+2.13%), 오른쪽 신장(+1.11%)에서 각각 향상되었다.
• 큰 기관 역시 혜택을 보였으며, 위(+6.69%), 비장(+3.47%), 췌장(+1.94%)에서 성능 향상이 나타나 복잡한 구조에서도 뛰어난 성능을 발휘함을 시사했다.
• 제거 분석 결과 T=2가 최적의 성능을 보였으며, T를 3과 4로 늘일 경우 과도하게 희소한 표현으로 인해 성능 저하가 발생함을 확인하였다.
• 희소 코드화 메커니즘이 노이즈와 불필요한 특징을 효과적으로 억제하여 다양한 해부학적 구조에서 모델의 강건성과 일반화 능력을 향상시켰다.