[논문 리뷰] Unsupervised Body Part Regression via Spatially Self-ordering Convolutional Neural Networks

Ke Yan, Le Lü외 1명|arXiv (Cornell University)|2017. 07. 12.

Advanced X-ray and CT Imaging참고 문헌 5인용 수 6

한 줄 요약

이 논문은 비지도 학습 기반의 신체 부위 회귀(UBR)를 제안한다. UBR는 초위성-하부 슬라이스 순서를 활용하여 레이블이 없는 CT 볼륨에서 연속적이고 정규화된 신체 좌표계를 학습하는 새로운 CNN 기반 방법이다. 순서와 거리 손실 함수를 통해 상호 슬라이스 관계를 자가조직화하는 방식으로, 수동 레이블 없이도 정확한 신체 부위 회귀를 달성하며, 지도 학습 기반의 베이스라인을 능가하고 전이 학습 및 이방성 검출 등의 응용 가능성을 제공한다.

ABSTRACT

Automatic body part recognition for CT slices can benefit various medical image applications. Recent deep learning methods demonstrate promising performance, with the requirement of large amounts of labeled images for training. The intrinsic structural or superior-inferior slice ordering information in CT volumes is not fully exploited. In this paper, we propose a convolutional neural network (CNN) based Unsupervised Body part Regression (UBR) algorithm to address this problem. A novel unsupervised learning method and two inter-sample CNN loss functions are presented. Distinct from previous work, UBR builds a coordinate system for the human body and outputs a continuous score for each axial slice, representing the normalized position of the body part in the slice. The training process of UBR resembles a self-organization process: slice scores are learned from inter-slice relationships. The training samples are unlabeled CT volumes that are abundant, thus no extra annotation effort is needed. UBR is simple, fast, and accurate. Quantitative and qualitative experiments validate its effectiveness. In addition, we show two applications of UBR in network initialization and anomaly detection.

연구 동기 및 목표

• 의료 영상 분석의 딥러닝에서 레이블이 없는 데이터의 부족 문제를 해결하기 위해, 특히 CT 스캔에서의 신체 부위 인식에 초점을 맞춘다.
• CT 볼륨 내 임의의 상부-하부 순서를 자가지도 신호로 활용하여 수동 레이블 없이도 학습할 수 있도록 한다.
• 각 슬라이스에 대해 정규화된 신체 좌표를 출력하는 연속적인 회귀기 모델을 개발하여 정밀한解부학적 국소화를 가능하게 한다.
• UBR의 유용성을 전이 학습을 통한 병변 탐지 및 CT 스캔에서의 이방성 검출과 같은 후행 작업에서 입증한다.
• 대규모 레이블이 필요한 데이터셋에 의존하지 않는 단순하고 빠르며 정확한 비지도 학습 방법을 확립한다.

제안 방법

• UBR는 특징 추출을 위해 ImageNet으로 사전 훈련된 가중치(예: VGG-16 또는 AlexNet)를 초기화한 CNN 아키텍처를 사용한다.
• 전역 평균 풀링 이전에 512 × 1 × 1 필터와 ReLU 활성화 함수를 갖는 커스터마이즈된 Conv6 레이어를 추가하여 분별적 특징을 학습한다.
• 네트워크는 축방향 CT 슬라이스당 연속적인 점수를 출력하며, 이는 신체의 상부-하부 축을 따라 정규화된 위치를 나타낸다.
• 두 가지 비지도 손실 함수를 사용한다: 점수의 슬라이스 인덱스 증가에 따라 단조증가하도록 보장하는 순서 손실과, 점수 차이와 공간 거리 간 비례성을 강제하는 거리 손실.
• 훈련는 미니배치로 수행되며, g개의 볼륨 그룹이 있으며, 각 그룹은 m개의 등간격 슬라이스로 구성되며, 시작 슬라이스 j와 간격 k를 무작위로 샘플링한다.
• 지역적 상호 슬라이스 관계로부터 자가조직화 과정이 발생하여, 감독 없이도 전역 좌표계가 형성된다.

실험 결과

연구 질문

• RQ1 딥 컨볼루션 네트워크는 슬라이스 순서만을 지도 신호로 사용하여 레이블이 없는 CT 볼륨에서 연속적이고 정규화된 신체 좌표계를 학습할 수 있는가?
• RQ2 제안된 다중슬라이스 상호 슬라이스 손실 전략은 단일 쌍 또는 시아미즈 유사 접근 방식에 비해 회귀 정확도에서 어떻게 비교되는가?
• RQ3 UBR는 병변 탐지와 같은 후행 의료 영상 작업을 위한 딥러닝 모델을 초기화하는 데 효과적으로 활용될 수 있는가?
• RQ4 슬라이스 점수 궤적의 이탈을 분석하여 스캔 아티팩트나 큰 병변과 같은 이방성을 UBR가 탐지할 수 있는가?
• RQ5 수동 레이블이 없음으로써 훈련 비용이 크게 감소하지만 성능은 유지 또는 향상되는가?

주요 결과

• UBR는 미세조정을 위해 88개의 추가 레이블이 필요한 지도 학습 기반 베이스라인을 능가하며, 비지도 자가조직화의 효과성을 입증한다.
• 순서 손실과 거리 손실의 조합이, 특히 m ≤ 12개의 슬라이스 그룹일 경우 회귀 정확도를 향상시킨다.
• UBR를 사용해 ImageNet으로 사전 훈련된 네트워크를 초기화하면, Faster R-CNN 기반 병변 탐지 작업에서 74.82%의 리콜을 달성하며, ImageNet 전용 초기화(73.84%)보다 높은 初기 탐지 정확도를 확보한다.
• UBR 기반의 이방성 검출 방법은 비단조적 점수 곡선을 보이는 비정상적인 CT 볼륨(예: 복수액 또는 잘못된 스캔 방향 포함)을 낮은 상관관계(r < 0.99)를 통해 성공적으로 식별한다.
• 절대 인덱스에 의존하지 않고 상대적 공간 관계를 학습하기 때문에, 다양한 스캔 범위와 슬라이스 간격에 대해 강건하다.
• UBR 프레임워크는 단순하고 빠르며 정확하며, 수동 레이블이 필요 없고 네트워크 초기화 및 이방성 검출 등의 응용 가능성을 제공한다.