[논문 리뷰] Accurate Lung Segmentation via Network-Wise Training of Convolutional Networks

Sangheum Hwang, Sunggyun Park|arXiv (Cornell University)|2017. 08. 02.

COVID-19 diagnosis using AI참고 문헌 3인용 수 3

한 줄 요약

이 논문은 흉부 X선에서 정확한 폐 분할을 위해 아트로우스 컨볼루션과 새로운 네트워크 단위 학습 전략을 갖춘 딥 컨volution 신경망을 제안한다. 이전 단계의 출력을 반복적으로 이용해 예측를 정밀하게 다듬음으로써, 거짓 양성 및 음성 예측를 감소시키고 경계를 더 매끄럽게 만들며, 데이터 증강과 결합했을 때 파rameter 수가 적고 일반화 능력이 향상된 상태에서 JSRT 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We introduce an accurate lung segmentation model for chest radiographs based on deep convolutional neural networks. Our model is based on atrous convolutional layers to increase the field-of-view of filters efficiently. To improve segmentation performances further, we also propose a multi-stage training strategy, network-wise training, which the current stage network is fed with both input images and the outputs from pre-stage network. It is shown that this strategy has an ability to reduce falsely predicted labels and produce smooth boundaries of lung fields. We evaluate the proposed model on a common benchmark dataset, JSRT, and achieve the state-of-the-art segmentation performances with much fewer model parameters.

연구 동기 및 목표

• 흉부 레이저 영상에 대해 딥 러닝을 활용한 고정확도이자 파라미터 효율적인 폐 분할 모델을 개발하는 것.
• X선 영상에서 폐의 형태와 크기의 높은 변동성 문제를 해결하는 것.
• 거짓 양성 및 음성 예측를 줄이고 폐 경계를 더 매끄럽게 함으로써 분할 정확도를 향상시키는 것.
• 각 단계가 이전 단계의 출력과 함께 입력 영상과 함께 학습되는 다단계 학습 전략인 네트워크 단위 학습의 효과를 조사하는 것.
• 분포 이탈된 데이터셋(MC)에서의 일반화 성능을 평가하고 도메인 이탈에 대한 내성을 분석하는 것.

제안 방법

• 수신장이 넓어지되 파라미터 수가 증가하지 않는 아트로우스 컨볼루션(r=3)을 사용한 깊고 얇은 잔차 네트워크 아키텍처를 사용한다.
• 모든 컨볼루션 레이어 이후 배치 정규화를 적용하여 학습을 안정화시킨다.
• 네트워크 단위 학습을 도입: 후속 단계의 네트워크는 이전 단계의 출력과 원본 이미지를 함께 사용하여 학습된다.
• 경계 정확도 향상을 위해 교차 엔트로피 손실과 경계 손실을 조합한 다중 척도 손실 함수를 사용한다.
• 밝기와 대비를 무작위로 조정하는 데이터 증강을 적용하여 픽셀 값 변동에 대한 내성을 향상시킨다.
• 전치 컨볼루션과 스킵 연결을 사용한 U-Net 유사 디코더를 사용하여 공간 해상도를 복원한다.

실험 결과

연구 질문

• RQ1 각 단계가 입력 영상과 이전 단계의 출력을 함께 사용하는 네트워크 단위 학습 전략이 폐 분할 정확도와 경계의 매끄러움을 향상시키는가?
• RQ2 경량 네트워크 아키텍처에 아트로우스 컨볼루션을 적용하면 파라미터 수가 적어도 경쟁적인 성능을 달성할 수 있는가?
• RQ3 학습 데이터셋(JSRT)과는 분포가 다른 MC 데이터셋에서 모델의 성능은 어떻게 되며, 이는 도메인 이탈에 대한 내성에 어떤 함의를 갖는가?
• RQ4 데이터 증강이 분포 이탈 데이터에서 일반화 성능 향상과 분할 성능의 분산 감소에 얼마나 기여하는가?
• RQ5 제안된 방법이 Jaccard, Dice, ACD, ASD 등 여러 지표에서 최신 기술 수준의 성능을 달성하면서도 모델 효율성을 유지할 수 있는가?

주요 결과

• 데이터 증강을 스테이지 3에 적용했을 때, JSRT 데이터셋에서 최신 기술 수준의 성능을 달성하였으며, Jaccard 유사도 계수(JSC)는 0.961 ± 0.015, Dice 계수(DC)는 0.980 ± 0.008를 기록하였다.
• 네트워크 단위 학습은 거짓 양성 및 음성 예측를 크게 감소시키며, 시각적 비교를 통해 스테이지 1에서 스테이지 3로 갈수록 경계의 매끄러움이 향상됨을 보였다.
• 성능가 포화 상태에 도달하여 스테이지 3 이후 성능 향상가 미미한 것으로 나타나, 최종 평가에는 스테이지 3를 사용하였다.
• MC 데이터셋에서는 평균 성능이 낮고(표준편차 0.049), JSC: 0.931 ± 0.049로 나타나 도메인 이탈로 인한 불안정성이 있음을 시사하였다.
• 데이터 증강을 적용했을 때, JSRT에서 평균 표면 거리(ASD)는 0.675 ± 0.122 mm를 기록하여 이전 방법들을 능가하는 성능를 보였다.
• 깊고 얇은 아키텍처 덕분에 모델 크기가 작아져, 경쟁 모델들보다 파라미터 수가 적은 상태에서 높은 정확도를 달성하였다.