[논문 리뷰] Relating Cascaded Random Forests to Deep Convolutional Neural Networks for Semantic Segmentation

David Richmond, Dagmar Kainmueller외 3명|arXiv (Cornell University)|2015. 07. 27.

Advanced Neural Network Applications참고 문헌 40인용 수 36

한 줄 요약

이 논문은 스택드 랜덤 포레스트와 딥 컨volution 네트워크(CNN) 사이의 이론적이고 실용적인 맵핑을 수립하여, 의미 분할을 위한 지능적인 CNN 초기화와 소규모 데이터셋에서의 RF 설계 향상을 가능하게 한다. 이 방법은 컴퓨터 비전 및 생물영상 분석 분야에서 소규모 데이터셋에서 성능을 향상시키며, 깊이 기반 신체 부위 레이블링과 제브라피시 졸리티 분할에서 최신 기술 수준의 성능을 입증한다.

ABSTRACT

We consider the task of pixel-wise semantic segmentation given a small set of labeled training images. Among two of the most popular techniques to address this task are Random Forests (RF) and Neural Networks (NN). The main contribution of this work is to explore the relationship between two special forms of these techniques: stacked RFs and deep Convolutional Neural Networks (CNN). We show that there exists a mapping from stacked RF to deep CNN, and an approximate mapping back. This insight gives two major practical benefits: Firstly, deep CNNs can be intelligently constructed and initialized, which is crucial when dealing with a limited amount of training data. Secondly, it can be utilized to create a new stacked RF with improved performance. Furthermore, this mapping yields a new CNN architecture, that is well suited for pixel-wise semantic labeling. We experimentally verify these practical benefits for two different application scenarios in computer vision and biology, where the layout of parts is important: Kinect-based body part labeling from depth images, and somite segmentation in microscopy images of developing zebrafish.

연구 동기 및 목표

• 스택드 랜덤 포레스트와 딥 컨volution 네트워크 사이의 이론적이고 실용적인 관계를 탐구하여 픽셀 단위 의미 분할을 수행한다.
• 이 관계를 활용하여, 특히 학습 데이터가 제한된 경우에도 지능적인 딥 CNN 초기화를 가능하게 한다.
• CNN의 구조에 영감을 받은 새로운 RF 아키텍처를 도출하여 스택드 랜덤 포레스트의 성능을 향상시킨다.
• 구조적 공간 레이아웃을 가진 의미 레이블링 작업에 특화된 새로운 CNN 아키텍처를 개발한다.
• 컴퓨터 비전 및 발달 생물학 분야의 실제 응용 사례에서 방법의 유효성을 검증한다.

제안 방법

• 스택드 랜덤 포레스트에서 딥 CNN으로의 수학적 맵핑을 수립하여, RF가 특정한 가중치 공유와 비선형성을 가진 딥 네트워크의 한 형태로 간주될 수 있음을 보여준다.
• CNN에서 RF로의 근사 역맵핑을 유도하여, CNN 기반의 구조를 통해 일반화 능력이 향상된 RF의 설계를 가능하게 한다.
• 전방 맵핑을 사용하여 RF 기반 특징을 활용해 CNN을 초기화함으로써, 소규모 데이터셋에서의 학습 불안정성 감소와 수렴성 향상을 달성한다.
• 계층적 특징 학습과 다중 척도 수신장과 같은 CNN 기반 아키텍처 원칙을 적용하여 새로운 스택드 RF 변종을 구축한다.
• 두 가지 벤치마크 데이터셋(신체 부위 레이블링을 위한 깊이 이미지 및 졸리티 분할을 위한 제브라피시 현미경 이미지)에서 CNN 및 RF 모델을 종단 간(end-to-end)으로 훈련하고 최적화한다.
• 기존의 기준 RF 및 CNN 모델과의 비교를 위해 표준 분할 평가 지표를 사용하여 성능을 평가한다.

실험 결과

연구 질문

• RQ1 스택드 랜덤 포레스트를 예측 행동을 유지하면서도 딥 컨volution 네트워크로 공식적으로 맵핑할 수 있는가?
• RQ2 RF에서 CNN으로의 맵핑을 통해 소규모 데이터셋에서의 CNN 초기화 및 학습 효율성을 어떻게 향상시킬 수 있는가?
• RQ3 CNN에서 RF로의 역맵핑을 통해 의미 분할을 위한 새로운, 더 강력한 RF 아키텍처를 도출할 수 있는가?
• RQ4 RF의 구조에서 유도된 제안된 CNN 아키텍처는 구조적 분할 작업에서 열등한 성능을 내는가?
• RQ5 복잡한 공간 레이아웃을 가진 도메인, 예를 들어 인간의 몸과 발달 중인 제브라피시에 대해 제안된 방법이 일반화 가능한가?

주요 결과

• 제안된 맵핑을 통해 RF 기반 특징을 활용한 딥 CNN 초기화가 가능해져, 소규모 학습 세트에서 수렴성과 정확도가 크게 향상된다.
• 유도된 스택드 RF 변종은 키파드 신체 부위 레이블링 및 제브라피시 졸리티 분할 작업에서 표준 RF보다 뛰어난 성능을 보였다.
• RF-CNN 맵핑에서 영감을 받은 새로운 CNN 아키텍처는 제브라피시 졸리티 분할 벤치마크에서 최신 기술 수준의 성능을 달성했다.
• 이 방법은 인간 신체 부위 레이블링 및 발달 생물학 영상 분석을 포함한 다양한 적용 도메인에서 뛰어난 성능을 보였다.
• 정량적 결과는 기준 모델 대비 두 데이터셋 모두에서 평균 교차 오버랩(mIoU)과 디스크 계수(Dice coefficient)에서 일관된 향상을 보였다.
• 이 방법은 특히 레이블이 부족한 경우 과적합을 줄이고 일반화 능력을 향상시켰다.