[논문 리뷰] Rethinking Convolutional Semantic Segmentation Learning

Mrinal Haloi|arXiv (Cornell University)|2017. 10. 22.

Retinal Imaging and Analysis참고 문헌 22인용 수 3

한 줄 요약

이 논문은 사전 훈련 모델이 필요 없이 분류 및 세분화 헤드를 동시에 훈련하는 통합 엔드 투 엔드 학습 프레임워크를 제안한다. 협동 학습 설정을 통해 새로운 개선된 잔차 인셉션 블록과 부분 주의 게이팅(PAG)을 사용하여 수렴 속도를 빠르게 하고 정확도를 향상시킨다. 무작위 가중치 초기화 조건에서도 이 방법은 EyePACS 데이터셋에서 66.1의 최신 기준 mIOU를 달성하여 ImageNet 사전 훈련이 필요한 모델들을 능가한다.

ABSTRACT

Deep convolutional semantic segmentation (DCSS) learning doesn't converge to an optimal local minimum with random parameters initializations; a pre-trained model on the same domain becomes necessary to achieve convergence.In this work, we propose a joint cooperative end-to-end learning method for DCSS. It addresses many drawbacks with existing deep semantic segmentation learning; the proposed approach simultaneously learn both segmentation and classification; taking away the essential need of the pre-trained model for learning convergence. We present an improved inception based architecture with partial attention gating (PAG) over encoder information. The PAG also adds to achieve faster convergence and better accuracy for segmentation task. We will show the effectiveness of this learning on a diabetic retinopathy classification and segmentation dataset.

연구 동기 및 목표

• 딥 컨volution 신경망 세분화에서 사전 훈련 모델 의존도를 제거하여 수렴을 달성하는 것.
• 의료 영상에서 레이블 부족 문제를 해결하기 위해 분류에 대해 부분적 또는 무작위 레이블을 사용한 훈련을 가능하게 하는 것.
• 세분화 및 분류 학습 과정을 하나의 엔드 투 엔드 프레임워크로 통합하는 것.
• 분류 및 세분화 헤드 간의 협동 학습 메커니즘을 통해 수렴 속도와 세분화 정확도를 향상시키는 것.
• 실제 생물의학 데이터셋(EyePACS)에서 당뇨성 망막병증 진단 및 미세동맥류 세분화에 대해 제안된 방법의 효과성을 입증하는 것.

제안 방법

• 세분화 및 분류 에이전트가 파라미터를 공유하지만 별도의 옵timizer를 사용하고 동시에 훈련하는 협동 학습 프레임워크를 도입한다.
• 특징 학습을 향상시키기 위해 스케일 연결과 배치 정규화를 갖춘 개선된 잔차 인셉션 블록을 사용한다.
• 디코더에서 중위 수준 인코더 특징을 선택적으로 사용하기 위해 부분 주의 게이팅(PAG)을 적용하여 세분화의 특징 표현을 향상시킨다.
• 분류 에이전트에 더 높은 배치 크기와 학습률을 적용하여 정보 전달 속도를 가속화한다.
• Nesterov 모멘텀을 사용하고 다항 학습률 감쇠 및 배치 정규화를 적용하여 공변수 이동을 줄인다.
• 훈련 및 평가를 위한 맞춤형 프레임워크(TEFLA)를 텐서플로우 기반으로 구축한다.

실험 결과

연구 질문

• RQ1 사전 훈련 모델 초기화 없이도 딥 세분화가 최적 국소 최소점에 수렴할 수 있는가?
• RQ2 분류 및 세분화의 공동 훈련이 세분화 성능을 향상시키며, 세분화 레이블 데이터 의존도를 줄일 수 있는가?
• RQ3 세분화 성능이 저하되지 않도록 부분적 또는 무작위 레이블로 분류 헤드를 효과적으로 훈련시킬 수 있는가?
• RQ4 제안된 부분 주의 게이팅을 갖춘 협동 학습 프레임워크가 표준 인코더-디코더 모델보다 수렴 속도가 빠르고 정확도가 높은가?
• RQ5 통합 모델이 이진 당뇨성 망막병증 분류에서 인간의 안과 전문의 성능을 능가할 수 있는가?

주요 결과

• 제안된 JointSeg 모델은 EyePACS 테스트 세트에서 평균 교차율(mIOU) 66.1을 달성하여 사전 훈련 가중치를 사용할 경우 FCN-8s(55.3)와 UNet(64.4)를 크게 능가한다.
• 무작위 가중치 초기화 조건에서 FCN-8s와 UNet은 각각 15.3과 25.4 mIOU에 그치며 사전 훈련 없이 수렴하지 못함을 보여주지만, JointSeg는 여전히 66.1 mIOU를 유지한다.
• 분류 에이전트는 EyePACS 테스트 세트에서 상위 1 정확도 85.1%와 상위 2 정확도 88.1%를 기록하여 VGG-19(82.5% 및 85.3%)과 InceptionV3(84.3% 및 87.2%)를 초월한다.
• 이진 당뇨성 망막병증 분류에서 통합 모델은 95.5%의 정확도를 달성하여 인간 안과 전문의 성능(95.1%)을 略로 초월한다.
• 정성적 결과에서 JointSeg는 특히 작은 미세동맥류에 대해 개선된 UNet 기준보다 더 정확하고 세밀한 세분화 마스크를 생성한다.
• 이 방법은 세분화 성능 저하 없이 분류에 대해 부분적 또는 무작위 레이블을 효과적으로 훈련시킬 수 있어 의료 영상에서의 데이터 부족 문제를 해결한다.