[논문 리뷰] Deep and Wide Multiscale Recursive Networks for Robust Image Labeling

Gary B. Huang, Viren Jain|arXiv (Cornell University)|2013. 10. 01.

Cell Image Analysis Techniques인용 수 24

한 줄 요약

이 논문은 깊이 있는 다중 척도 순환(Deep and Wide Multiscale Recursive, DAWMR) 네트워크를 제안하여 강건한 이미지 레이블링을 구현한다. 이는 넓은 특징 표현, 다중 척도 및 순환 처리를 통한 큰 수신장, 그리고 새로운 국소 오차 밀도 가중치 부여 방식을 결합한다. 아키텍처는 3차원 신경 회로 재구성에서 최신 기술 수준의 성능을 달성하며, 12층의 DAWMR 모델이 경계 예측에서 95.22% Rand Index를 기록하여 표준 컨볼루션 네트워크를 크게 앞서며 성능을 뛰어나게 한다.

ABSTRACT

Feedforward multilayer networks trained by supervised learning have recently demonstrated state of the art performance on image labeling problems such as boundary prediction and scene parsing. As even very low error rates can limit practical usage of such systems, methods that perform closer to human accuracy remain desirable. In this work, we propose a new type of network with the following properties that address what we hypothesize to be limiting aspects of existing methods: (1) a `wide' structure with thousands of features, (2) a large field of view, (3) recursive iterations that exploit statistical dependencies in label space, and (4) a parallelizable architecture that can be trained in a fraction of the time compared to benchmark multilayer convolutional networks. For the specific image labeling problem of boundary prediction, we also introduce a novel example weighting algorithm that improves segmentation accuracy. Experiments in the challenging domain of connectomic reconstruction of neural circuity from 3d electron microscopy data show that these "Deep And Wide Multiscale Recursive" (DAWMR) networks lead to new levels of image labeling performance. The highest performing architecture has twelve layers, interwoven supervised and unsupervised stages, and uses an input field of view of 157,464 voxels ($54^3$) to make a prediction at each image location. We present an associated open source software package that enables the simple and flexible creation of DAWMR networks.

연구 동기 및 목표

• 기존의 딥 네트워크가 이미지 레이블링에서 좁은 특징 표현과 제한된 시야 범위 등의 한계를 보이는 문제를 해결하기 위해.
• 특히 신경 회로의 연결지능학적 재구성과 같은 고위험 분야에서 경계 예측 및 시나리오 해석 작업의 정확도를 향상시키기 위해.
• 순환 단계를 거쳐 전파하는 백프로파게이션을 피하는 병렬 처리 가능한 비종단형 아키텍처를 통해 훈련 속도를 높이기 위해.
• 구조적으로 중요한 어려운 분할 영역에 집중하는 계산적으로 효율적인 예제 가중치 부여 방식을 개발하기 위해.
• 순환 반복과 넓은 특징 학습이 복잡한 3차원 이미지 레이블링 작업에서 표준 딥 네트워크를 크게 능가할 수 있음을 입증하기 위해.

제안 방법

• DAWMR 네트워크는 층당 수천 개의 특징을 갖는 넓은 다중 척도 아키텍처를 사용하여 높은 표현 능력을 확보한다.
• 핵심 네트워크의 순환 반복을 통해 각 예측의 효과적 수신장을 점진적으로 확장하고, 레이블 공간의 종속성을 활용한다.
• 새로운 국소 오차 밀도(LED) 가중치 부여 알고리즘이 지역 분할 난이도와 구조적 관련성을 기반으로 훈련 예제를 동적으로 재가중한다.
• 다중 척도 처리 경로, 풀링, 순환 피드백을 통합하여 맥락 통합을 향상시키고 국소 모호성을 줄인다.
• 아키텍처는 완전히 병렬 처리가 가능하도록 설계되어, 표준 컨볼루션 네트워크가 2주가 걸리는 데 비해 CPU 클러스터나 GPU에서 하루 만에 훈련이 가능하다.
• 순환 반복 과정에서 생성된 중간 친화도 그래프는 분할로 변환될 수 있으며, 이는 후속 단계에서 미분 불가능한 형태적 특징을 사용할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 넓고 다중 척도적이며 순환적인 네트워크 아키텍처가 표준 딥 컨볼루션 네트워크에 비해 이미지 레이블링 정확도를 크게 향상시킬 수 있는가?
• RQ2 핵심 네트워크 아키텍처의 순환 반복이 효과적 수신장을 확장하고 레이블 공간 통계를 활용함으로써 성능 향상을 이끌 수 있는가?
• RQ3 어려운 영역과 구조적으로 중요한 영역을 우선순위로 하는 국소 오차 밀도 가중치 부여 방식이 3차원 전자현미경 데이터의 경계 예측 정확도를 향상시킬 수 있는가?
• RQ4 전체 백프로파게이션을 순환 단계를 거쳐 피하는 비종단형 병렬 처리 가능한 아키텍처를 통해 연결지능학적 재구성에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ5 다중 척도 처리, 풀링, 순환 처리 등 맥락 통합 전략 중 어떤 것이 복잡한 이미지 레이블링 작업에서 더 효과적인가?

주요 결과

• 순환 반복을 포함한 DAWMR 네트워크는 전체 테스트 세트에서 0.9522의 Rand Index를 기록하여, 비순환 아키텍처와 표준 컨볼루션 네트워크를 크게 앞서는 성능을 보였다.
• MS-FV-DO w iter 3 아키텍처는 AUC-edge 0.9904와 Rand Index 0.9522를 기록하여 순환 보정의 유용성을 입증했다.
• 전체 수신장이 더 작은 경우에도, DAWMR의 세 번째 순환 반복은 매우 큰 수신장을 가진 비순환 아키텍처를 능가하는 성능을 보였으며, 이는 반복적 맥락 통합의 가치를 시사한다.
• 국소 오차 밀도(LED) 가중치 부여 방식은 어려운 구조적 관련 영역에 집중함으로써 더 정확한 경계 예측을 가능하게 하여, 과소분할 오류를 줄였다.
• DAWMR 네트워크는 CPU 클러스터에서 하루 만에 훈련되었고, GPU 기반 컨볼루션 네트워크가 2주가 걸리는 데 비해 상당한 속도 우수성을 보였다.
• 시각적 점검 결과, 컨볼루션 네트워크는 잘못된 양성 친화도 간선로 인해 과소분할 오류가 더 많았고, DAWMR 출력은 더 통합적이고 정확했다.