[논문 리뷰] Large-Scale Electron Microscopy Image Segmentation in Spark

Stephen M. Plaza, Stuart Berg|arXiv (Cornell University)|2016. 04. 01.

Advanced Electron Microscopy Techniques and Applications참고 문헌 9인용 수 8

한 줄 요약

이 논문은 메모리 기반 처리, 체크포인트 기법, 그리고 오류 전파를 최소화하기 위한 새로운 스티칭 전략을 사용하는 확장 가능한 스파크 기반 프레임워크를 제시한다. 이는 지역 세그멘테이션 아티팩트에서 기인하는 오류 전파를 줄이며, 테라바이트 수준의 전자현미경 데이터셋에 대한 강력하고 분산된 처리를 가능하게 하며, 정확도와 장애 내성 능력이 향상되었으며, 실제 연결망 분석 데이터셋에서 잘못된 병합 오류가 크게 감소함을 입증하였다.

ABSTRACT

The emerging field of connectomics aims to unlock the mysteries of the brain by understanding the connectivity between neurons. To map this connectivity, we acquire thousands of electron microscopy (EM) images with nanometer-scale resolution. After aligning these images, the resulting dataset has the potential to reveal the shapes of neurons and the synaptic connections between them. However, imaging the brain of even a tiny organism like the fruit fly yields terabytes of data. It can take years of manual effort to examine such image volumes and trace their neuronal connections. One solution is to apply image segmentation algorithms to help automate the tracing tasks. In this paper, we propose a novel strategy to apply such segmentation on very large datasets that exceed the capacity of a single machine. Our solution is robust to potential segmentation errors which could otherwise severely compromise the quality of the overall segmentation, for example those due to poor classifier generalizability or anomalies in the image dataset. We implement our algorithms in a Spark application which minimizes disk I/O, and apply them to a few large EM datasets, revealing both their effectiveness and scalability. We hope this work will encourage external contributions to EM segmentation by providing 1) a flexible plugin architecture that deploys easily on different cluster environments and 2) an in-memory representation of segmentation that could be conducive to new advances.

연구 동기 및 목표

• 단일 머신의 처리 능력을 초월하는 테라바이트 수준의 전자현미경 데이터셋을 세그멘테이션하는 데 도전하는 데 목적이 있다.
• 특히 잘못된 병합 오류를 포함한 지역 세그멘테이션 실패에서 기인하는 오류 전파를 줄이기 위해 전역 연결망 재구성에 영향을 최소화하는 데 목적이 있다.
• 최소한의 I/O로 분산 컴퓨팅을 활용하여 대규모 전자현미경 데이터셋에 대해 효율적이고 장애 내성 있는 처리를 가능하게 하는 데 목적이 있다.
• 새로운 세그멘테이션 알고리즘의 간편한 통합과 다양한 클러스터 환경에서의 배포를 가능하게 하는 유연한 플러그인 기반 아키텍처를 제공하는 데 목적이 있다.
• 확장 가능한 메모리 기반 세그멘테이션을 지원하여 향후 연결망 분석 분야의 알고리즘적 발전을 촉진하는 데 목적이 있다.

제안 방법

• 대규모 전자현미경 볼륨의 병렬 및 분산 처리를 가능하게 하기 위해, 메모리 기반 데이터 표현을 통해 디스크 I/O를 최소화하는 Apache Spark를 사용하여 프레임워크를 구현하였다.
• 세그멘테이션 구성 요소(예: 분류기, 스티칭 로직)를 분리하기 위해 플러그인 아키텍처를 사용하여 모듈식 교체 및 평가가 가능하도록 하였다.
• 중간 계산 상태를 저장하기 위한 체크포인트 메커니즘이 도입되어, 전체 재처리 없이도 작업 실패 후 신속한 복구가 가능하도록 하였다.
• 새로운 서브볼륨 스티칭 전략은 심한 매칭(식별식 1 및 3)과 공격적인 매칭(식별식 2 포함)을 사용하여 인접한 서브볼륨 세그먼트를 병합하면서 잘못된 병합을 최소화한다.
• 저장소 추상화와 버전 관리, 효율적인 데이터 액세스를 가능하게 하기 위해, 볼륨 데이터 서비스인 DVID와 통합하였다.
• 세그멘테이션 품질 평가에는 오차를 잘못된 병합과 잘못된 분할로 분해하기 위해 Variation of Information(VI)가 사용되었다.

실험 결과

연구 질문

• RQ1 분산 및 메모리 기반 세그멘테이션 프레임워크는 오류 전파를 최소화하면서 테라바이트 수준의 전자현미경 데이터셋에 효과적으로 확장 가능한가?
• RQ2 큰 전자현미경 볼륨에서 보수적인 스티칭 전략이 공격적인 스티칭 전략보다 잘못된 병합 오류를 얼마나 줄이는가?
• RQ3 체크포인트 기법과 장애 내성 설계는 장시간 실행되는 세그멘테이션 파이프라인에서 실패한 작업의 재처리 비용을 얼마나 줄일 수 있는가?
• RQ4 플러그인 기반 아키텍처는 다양한 컴퓨팅 환경에서 새로운 세그멘테이션 알고리즘의 빠른 반복 및 배포를 가능하게 하는가?
• RQ5 세그멘테이션의 메모리 기반 표현은 성능 향상과 함께 연결망 분석 분야에서 새로운 알고리즘 전략을 가능하게 하는가?

주요 결과

• 메두라 데이터셋에서 보수적인 스티칭 전략은 스티칭 없이 대비 85%의 잘못된 병합 오류 감소를 기록하였으며, 전체 VI는 4.41에서 2.28로 48% 향상되었다.
• 비행체의 곰팡이 모양 구조 데이터셋에서 보수적인 스티칭은 잘못된 병합 VI를 4.36에서 1.60으로 감소시켜 고품질 세그멘테이션 영역에서의 오류 억제 효과를 입증하였다.
• 메두라 데이터셋에서 공격적인 스티칭은 잘못된 병합 오류를 증가시켜 VI가 0.05에서 2.76로 증가하였으며, 이는 지나친 병합이 전역 정확도를 손상시킬 수 있음을 시사한다.
• 400GB 전자현미경 볼륨에서 시스템은 확장성과 효율적인 복구 능력을 입증하였으며, 체크포인트 기법을 통해 실패 후 신속한 롤백이 가능하였다.
• 히트맵 분석을 통해 메두라 데이터셋의 하단 영역에서 국소적인 잘못된 병합 핫스팟이 확인되었으며, 이는 대규모 볼륨에서 비균일한 오류 분포의 위험성을 드러냈다.
• 기본값으로 스티칭을 하지 않은 경우에 비해 프레임워크는 전체 세그멘테이션 오류를 성공적으로 감소시켰으며, 이는 대규모 연결망 분석에서 맥락 인식 스티칭의 효과성을 입증한다.