[논문 리뷰] Evolutionary Neural Architecture Search for Retinal Vessel Segmentation

Zhun Fan, Jiahong Wei외 3명|arXiv (Cornell University)|2020. 01. 18.

Retinal Imaging and Analysis참고 문헌 41인용 수 17

한 줄 요약

이 논문은 망막 혈관 분할을 위한 최적의 인코더-디코더 신경망 아키텍처를 자동으로 발견하기 위해 진화적 신경망 아키텍처 탐색(ENAS) 방법을 제안한다. 이는 수동 설계 노력을 크게 줄이며, DRIVE, STARE, CHASE_DB1 데이터셋에서 최신 기술 수준의 성능을 달성한다. 또한 교차 훈련을 통해 뛰어난 일반화 능력을 입증한다.

ABSTRACT

The accurate retinal vessel segmentation (RVS) is of great significance to assist doctors in the diagnosis of ophthalmology diseases and other systemic diseases. Manually designing a valid neural network architecture for retinal vessel segmentation requires high expertise and a large workload. In order to improve the performance of vessel segmentation and reduce the workload of manually designing neural network, we propose novel approach which applies neural architecture search (NAS) to optimize an encoder-decoder architecture for retinal vessel segmentation. A modified evolutionary algorithm is used to evolve the architectures of encoder-decoder framework with limited computing resources. The evolved model obtained by the proposed approach achieves top performance among all compared methods on the three datasets, namely DRIVE, STARE and CHASE_DB1, but with much fewer parameters. Moreover, the results of cross-training show that the evolved model is with considerable scalability, which indicates a great potential for clinical disease diagnosis.

연구 동기 및 목표

• 망막 혈관 분할을 위한 수동으로 설계된 신경망과 관련된 높은 전문성 및 노동력 비용을 줄이기 위해.
• 망막 혈관 분할에 특화된 최적의 인코더-디코더 아키텍처를 자동으로 탐색하기 위해.
• 모델 복잡성과 파라미터 수를 최소화하면서도 분할 정확도를 향상시키기 위해.
• 다양한 망막 영상 데이터셋에 걸쳐 유연성과 확장성을 평가하기 위해.

제안 방법

• 인코더-디코더 프레임워크 내에서 최적의 신경망 아키텍처 구성 요소를 탐색하기 위해 수정된 진화 알고리즘을 사용한다.
• 검색 공간에는 인코더 및 디코더의 커널 크기, 채널 수, 블록 유형 등의 아키텍처 선택 사항이 포함된다.
• 아키텍처 성능 평가에 대해 훈련 데이터의 일부를 기반으로 한 대체 검증 지표(분할 정확도)를 사용한다.
• 제한된 계산 자원으로 인해 진화 과정이 제약을 받으며, 효율성과 실용성을 우선시한다.
• 최종 아키텍처는 성능 평가를 위해 전체 데이터셋을 사용해 엔드 투 엔드로 훈련된다.
• 다른 망막 데이터셋 간의 일반화 능력을 평가하기 위해 교차 훈련 실험을 수행한다.

실험 결과

연구 질문

• RQ1 진화적 NAS 접근 방식이 수동 설계된 모델보다 더 정확하고 컴act한 신경망 아키텍처를 발견할 수 있는가?
• RQ2 기존 최신 기술 수준의 방법들과 비교했을 때, 표준 망막 혈관 분할 벤치마크에서 유도된 아키텍처는 어떤 성능을 보이는가?
• RQ3 유도된 아키텍처는 다양한 망막 영상 데이터셋 간에 잘 일반화되는가? 이는 임상적 확장성의 가능성을 시사하는가?
• RQ4 NAS 방법이 성능을 유지하거나 향상시키면서 수동 설계 아키텍처의 필요성을 얼마나 줄일 수 있는가?

주요 결과

• 제안된 ENAS 방법은 DRIVE, STARE, CHASE_DB1 데이터셋에서 기존의 모든 비교 방법을 능가하는 최신 기술 수준의 성능을 달성한다.
• 기본 모델 및 최신 기술 수준의 모델보다도 유의미하게 적은 파라미터 수로 이 성능를 달성한다.
• 교차 훈련 실험 결과, 강력한 일반화 능력이 입증되어 다양한 데이터셋에서 임상적 적용 가능성을 시사한다.
• 높은 분할 정확도를 유지하면서도 수동 아키텍처 설계의 필요성을 효과적으로 줄였다.