[논문 리뷰] A Labeling-Free Approach to Supervising Deep Neural Networks for Retinal Blood Vessel Segmentation

Yongliang Chen|arXiv (Cornell University)|2017. 04. 25.

Retinal Imaging and Analysis참고 문헌 25인용 수 14

한 줄 요약

이 논문은 도메인 특화 사전 지식—특히 혈관 구조를 나타내는 선분—를 사용하여 합성 학습 데이터를 생성함으로써 수동 레이블링이 필요 없는 심층 신경망 훈련을 위한 새로운 접근법을 제안한다. 이 방법은 기준 데이터셋(DRIVE 및 STARE)에서 경쟁 가능한 성능을 달성하여, 강력한 특징 학습이 레이블러된 실제 이미지가 아닌 지식 기반 데이터 생성을 통해 이룰 수 있음을 보여준다.

ABSTRACT

Segmenting blood vessels in fundus imaging plays an important role in medical diagnosis. Many algorithms have been proposed. While deep Neural Networks have been attracting enormous attention from computer vision community recent years and several novel works have been done in terms of its application in retinal blood vessel segmentation, most of them are based on supervised learning which requires amount of labeled data, which is both scarce and expensive to obtain. We leverage the power of Deep Convolutional Neural Networks (DCNN) in feature learning, in this work, to achieve this ultimate goal. The highly efficient feature learning of DCNN inspires our novel approach that trains the networks with automatically-generated samples to achieve desirable performance on real-world fundus images. For this, we design a set of rules abstracted from the domain-specific prior knowledge to generate these samples. We argue that, with the high efficiency of DCNN in feature learning, one can achieve this goal by constructing the training dataset with prior knowledge, no manual labeling is needed. This approach allows us to take advantages of supervised learning without labeling. We also build a naive DCNN model to test it. The results on standard benchmarks of fundus imaging show it is competitive to the state-of-the-art methods which implies a potential way to leverage the power of DCNN in feature learning.

연구 동기 및 목표

• 망막 혈관 분할에서 희소하고 비싼 수동 레이블링 문제를 해결하기 위해.
• 사전 지식을 활용하여 실제 레이블러된 데이터 없이도 심층 신경망을 효과적으로 훈련시킬 수 있는지 탐색하기 위해.
• 규칙 기반의 합성 샘플을 사용하여 심층 학습 모델을 감독하는 방법을 개발하기 위해.
• 표준 망막 영상 기준 데이터셋에서 이 레이블링 비용이 들지 않는 방법의 타당성과 성능을 평가하기 위해.
• 심층 컨volution 신경망(DCNN)에서 강력한 특징 학습이 강력한 도메인 사전 지식에 기반한 데이터 생성을 통해 달성될 수 있음을 입증하기 위해.

제안 방법

• 망막 혈관의 해부학적 지식에 기반한 수작업 규칙을 사용하여 인공 학습 샘플을 생성한다. 예를 들어, 특정 두께와 방향을 가진 선형 구조를 고려한다.
• 선분의 제어 가능한 파rameter(예: 길이, 두께, 각도)를 사용하여 실제 혈관 패턴을 시뮬레이션하는 합성 이미지를 생성한다.
• 혈관 존재 여부를 나타내는 이진 레이블이 부여된 이러한 합성 이미지로 간단한 심층 컨volution 신경망(DCNN)을 훈련시킨다.
• 표준 역전파와 확률적 경사 하강법을 사용하여 네트워크를 훈련시키며, 기본 하이퍼파rameter와 최소한의 튜닝을 적용한다.
• 합성 학습 데이터의 대trast 극성과 일치시키기 위해 입력 이미지를 사전 처리하여 반전한다.
• DRIVE 및 STARE 데이터셋의 실제 망막 영상에서 표준 지표(AUC, 정확도, 민감도, 특이도)를 사용하여 성능을 평가한다.

실험 결과

연구 질문

• RQ1 심층 신경망이 수동으로 레이블링된 학습 데이터에 의존하지 않고도 망막 혈관 분할에서 경쟁 가능한 성능을 달성할 수 있는가?
• RQ2 의료 영상 분할을 위한 효과적인 합성 학습 데이터 생성에 도메인 특화 사전 지식을 얼마나 활용할 수 있는가?
• RQ3 합성 데이터로 훈련된 단순한 DCNN 아키텍처가 실제 망막 영상에서 최신 기술 수준의 감독 모델보다 우수하거나 동등한 성능을 내는가?
• RQ4 합성 데이터셋의 구조(예: 선 두께, 연속성 등)가 훈련된 모델의 일반화 능력에 어떤 영향을 미치는가?
• RQ5 강력한 도메인 사전 지식에 의해 안내될 경우, DCNN의 내재된 특징 학습 능력이 실제 세계의 레이블링 부족을 상쇄할 수 있는가?

주요 결과

• 제안된 레이블링 비용이 들지 않는 방법은 DRIVE 데이터셋에서 AUC 0.9516과 정확도 0.9453을 달성하여 감독 기반 최신 기술 수준의 방법과 경쟁 가능한 성능을 보였다.
• STARE 데이터셋에서는 AUC 0.9557과 정확도 0.9449를 기록하여, 이 방법의 강건성과 일반화 능력이 추가로 확인되었다.
• DRIVE에서 민감도 0.7426과 특이도 0.9735를 달성하여 진짜 혈관을 잘 탐지하면서도 잠재적 오진을 최소화하는 것으로 나타났다.
• 단순하고 최적화되지 않은 DCNN 아키텍처를 사용하고도 200,000회 훈련 반복만으로도 더 복잡하고 철저하게 튜닝된 감독 모델들과 비교해 유사한 성능을 보였다.
• 시각적 분석을 통해 네트워크가 선형 구조에 대해 강하게 반응하는 것으로 확인되어, 원하는 혈관 형태와 일치하며 합성 데이터 설계의 타당성을 검증하였다.
• 결과적으로 사전 지식가 수동 레이블링을 효과적으로 대체할 수 있음을 시사한다.