[논문 리뷰] KiU-Net: Towards Accurate Segmentation of Biomedical Images using Over-complete Representations

Jeya Maria Jose, Vishwanath A. Sindagi외 2명|arXiv (Cornell University)|2020. 06. 08.

Advanced Neural Network Applications참고 문헌 25인용 수 15

한 줄 요약

이 논문은 생체의학 영상 분할을 향상시키기 위해 인코더 경로에서 공간적 업샘플링을 통해 과잉표현(over-complete representations)을 활용하는 새로운 U-Net 변종인 KiU-Net을 제안한다. 이는 더 세밀한 특징 추출을 가능하게 한다. 표준 U-Net 대비 전기 출생 유아 초음파 영상에서 DICE 스코어(75.17%)와 재현율 지수(Jaccard index, 60.37%)에서 4% 향상되었으며, 파라미터 수를 줄이고 수렴 속도를 빠르게 한다.

ABSTRACT

Due to its excellent performance, U-Net is the most widely used backbone architecture for biomedical image segmentation in the recent years. However, in our studies, we observe that there is a considerable performance drop in the case of detecting smaller anatomical landmarks with blurred noisy boundaries. We analyze this issue in detail, and address it by proposing an over-complete architecture (Ki-Net) which involves projecting the data onto higher dimensions (in the spatial sense). This network, when augmented with U-Net, results in significant improvements in the case of segmenting small anatomical landmarks and blurred noisy boundaries while obtaining better overall performance. Furthermore, the proposed network has additional benefits like faster convergence and fewer number of parameters. We evaluate the proposed method on the task of brain anatomy segmentation from 2D Ultrasound (US) of preterm neonates, and achieve an improvement of around 4% in terms of the DICE accuracy and Jaccard index as compared to the standard-U-Net, while outperforming the recent best methods by 2%. Code: https://github.com/jeya-maria-jose/KiU-Net-pytorch .

연구 동기 및 목표

• 노이즈가 많은 초음파 영상에서 작은 해부학적 구조물과 흐린 경계를 분할하는 데 있어 표준 U-Net의 한계를 해결한다.
• U-Net의 본질적인 과소표현(under-complete) 성향으로 인해 공간 해상도가 감소하고 세밀한 특징 학습이 제한되는 문제를 극복한다.
• 딥 러닝에서 의료 영상 분할을 위한 과잉표현의 활용을 탐색한다. 이는 아직 거의 다뤄지지 않은 분야이다.
• 모델 복잡도를 증가시키지 않고도 뇌의 중요한 신생아 구조물(예: 뇌실과 투명판)의 분할 정확도를 향상시킨다.
• 성능을 유지하거나 향상시키면서도 더 적은 파라미터와 더 빠른 수렴 속도를 달성한다.

제안 방법

• 특징 맵을 다운샘플링하기 이전에 공간적으로 업샘플링하는 과잉표현 인코더 브랜치인 Ki-Net을 도입하여 고해상도 공간 정보를 유지한다.
• 표준 U-Net 인코더와 병렬로 Ki-Net을 통합하여 스킵 커넥션을 통해 다중 스케일에서 특징 융합을 가능하게 한다.
• Ki-Net 인코더 경로에서 전치된 컨벌루션(역컨벌루션)을 사용하여 특징을 더 높은 차원의 공간 표현으로 투영한다.
• 분할을 위해 U-넷 스타일의 디코더 경로를 유지하며, Ki-Net 및 U-Net 브랜치에서 온 스킵 커넥션을 통해 특징 정밀도를 향상시킨다.
• 전기 출생 유아의 2D 초음파 영상에서 이진 교차 엔트로피 손실과 DICE 손실을 사용하여 엔드 투 엔드 KiU-Net 모델을 훈련시킨다.
• 과잉표현 특징에서 유도된 확장된 수신 영역 유연성을 활용하여 작은 구조물과 윤곽 세부 정보를 더 잘 포착한다.

실험 결과

연구 질문

• RQ1 과잉표현이 노이즈가 많은 초음파 영상에서 작은 구조물과 잘 정의되지 않은 해부학적 구조물의 분할에 도움이 될 수 있는가?
• RQ2 표준 U-Net 대비 과소표현 특성을 지닌 U-Net에 비해 인코더 경로에서 공간적 업샘플링이 세밀한 분할을 위한 특징 표현을 향상시키는가?
• RQ3 KiU-Net이 더 적은 파라미터와 더 빠른 수렴 속도를 유지하면서도 표준 U-Net 및 최신 기술보다 더 높은 성능을 달성할 수 있는가?
• RQ4 Ki-Net과 U-Net의 통합이 그림 아티팩트(예: 그림자, 저대비 경계)에 대한 모델의 강인성에 어떤 영향을 미치는가?
• RQ5 과잉표현 아키텍처가 전기 출생 유아 뇌 초음파와 같은 도전적인 임상 데이터에서 일반화 능력을 얼마나 향상시키는가?

주요 결과

• KiU-Net은 RITE 데이터셋에서 DICE 스코어 75.17%를 기록하여 표준 U-Net(55.24%) 대비 4% 향상되었다.
• KiU-Net의 재현율 지수는 60.37%에 도달하여 U-Net의 31.11%에서 크게 향상되어 참값과의 겹침이 뛰어나다는 것을 보여준다.
• 최근 최고 수준의 방법들보다 DICE 정확도에서 2% 향상되어 도전적인 신생아 초음파 데이터에서의 효과성을 확인한다.
• 성능 향상에도 불구하고 표준 U-Net보다 더 빠른 수렴 속도와 더 적은 파라미터를 사용한다.
• 정성적 결과에서는 KiU-Net이 특히 뇌실과 투명판의 확대 영역에서 작은 구조물과 흐린 경계를 더 잘 포착하는 것으로 나타났다.
• 제거 실험(ablation study) 결과 과잉표현 Ki-Net 브랜치가 세부 구조 분할에서 성능 향상에 필수적임을 확인하였다.