[논문 리뷰] Recurrent Convolutional Networks for Pulmonary Nodule Detection in CT Imaging

Petros-Pavlos Ypsilantis, Giovanni Montana|arXiv (Cornell University)|2016. 09. 28.

Lung Cancer Diagnosis and Treatment참고 문헌 58인용 수 13

한 줄 요약

이 논문은 축성 및 순환 신경망을 조합한 딥러닝 아키텍처인 ReCTnet를 제안하여, axial 슬라이스 간의 공간적 종속성을 모델링함으로써 CT 스캔에서 폐 결절을 탐지한다. LIDC/IDRI 데이터셋에서 90.5%의 민감도와 스캔당 4.5개의 가짜 양성 결과를 기록하며, 가짜 양성 결과를 늘리지 않고도 결절 식별 성능을 향상시키기 위해 LSTM 레이어를 활용함으로써 이전 방법들을 능가한다.

ABSTRACT

Computed tomography (CT) generates a stack of cross-sectional images covering a region of the body. The visual assessment of these images for the identification of potential abnormalities is a challenging and time consuming task due to the large amount of information that needs to be processed. In this article we propose a deep artificial neural network architecture, ReCTnet, for the fully-automated detection of pulmonary nodules in CT scans. The architecture learns to distinguish nodules and normal structures at the pixel level and generates three-dimensional probability maps highlighting areas that are likely to harbour the objects of interest. Convolutional and recurrent layers are combined to learn expressive image representations exploiting the spatial dependencies across axial slices. We demonstrate that leveraging intra-slice dependencies substantially increases the sensitivity to detect pulmonary nodules without inflating the false positive rate. On the publicly available LIDC/IDRI dataset consisting of 1,018 annotated CT scans, ReCTnet reaches a detection sensitivity of 90.5% with an average of 4.5 false positives per scan. Comparisons with a competing multi-channel convolutional neural network for multi-slice segmentation and other published methodologies using the same dataset provide evidence that ReCTnet offers significant performance gains.

연구 동기 및 목표

• 자동 폐 결절 탐지에서 낮은 민감도와 높은 가짜 양성 비율 문제를 해결하기 위해.
• 수동으로 설계된 특징을 피하고 원시 CT 데이터에서 직접 계층적 이미지 표현을 학습하는 딥러닝 아키텍처를 개발하기 위해.
• 순환 레이어를 사용하여 다수의 축성 CT 슬라이스 간의 공간적 종속성을 모델링함으로써 탐지 성능을 향상시키기 위해.
• 컨볼루션 및 순환 구성 요소를 공동 최적화하는 엔드 투 엔드 훈련의 효과를 입증하기 위해.
• 성능 향상을 위해 주의 메커니즘, 드롭아웃, 적응형 샘플링과 같은 아키텍처 구성 요소를 탐색하기 위해.

제안 방법

• ReCTnet는 3D 컨볼루션 레이어와 양방향 LSTM을 조합하여 인접한 CT 슬라이스를 통해 맥락적 특징을 추출하고 전파한다.
• 모델은 각 볼륨에 대해 중심이 된 7개의 축성 슬라이스로 이루어진 시퀀스를 처리하여 상호 슬라이스 해부학적 맥락을 모델링한다.
• 완전 연결 다층 퍼셉트론(MLP)은 LSTM 처리된 특징을 바탕으로 각 볼륨을 결절 또는 비결절로 분류한다.
• 모든 네트워크 파라미터를 공동 최적화하기 위해 엔드 투 엔드 훈련을 사용하여 특징 표현과 일반화 능력을 향상시킨다.
• 수용장과 공간 해상도 유지 간의 균형을 위해 확장된 컨볼루션을 활용하여 맥락 통합을 위한 확장된 수용장 확보.
• 중요한 이미지 패치에 가중치를 주기 위해 결정론적 주의 메커니즘 테스트를 실시했지만, LSTM 게이팅에 비해 성능 향상 없음.

실험 결과

연구 질문

• RQ1 상호 슬라이스 종속성을 모델링하는 딥 네트워크가 가짜 양성 결과를 늘리지 않고도 폐 결절 탐지 민감도를 향상시킬 수 있는가?
• RQ2 컨볼루션 네트워크에 순환 레이어를 통합하면 CT 스캔에서 작은, 저대비 결절의 특징 표현이 어떻게 향상되는가?
• RQ3 공동 컨볼루션-순환 아키텍처의 엔드 투 엔드 훈련이 미세조정 또는 사전학습보다 더 나은 성능을 낼 수 있는가?
• RQ4 충분한 해부학적 맥락을 모델링하기 위해 필요한 인접 슬라이스의 최적 수는 얼마인가?
• RQ5 주의 메커니즘 또는 적응형 샘플링 전략이 도전적인 케이스에서 탐지 성능을 추가로 향상시킬 수 있는가?

주요 결과

• ReCTnet는 LIDC/IDRI 데이터셋에서 90.5%의 탐지 민감도를 기록하여 이전 방법들과 비교해 유의미하게 뛰어나며, 경쟁적 다채널 CNN보다도 뛰어난 성능을 보였다.
• 모델은 낮은 가짜 양성 비율 4.5개/스캔을 유지하여 높은 민감도에도 불구하고 강한 특이도를 보였다.
• 양방향 LSTM의 사용이 인접 슬라이스 간의 정보를 효과적으로 융합함으로써 식별 능력을 향상시켰다.
• 엔드 투 엔드 훈련이 최적 성능을 내기 위해 필수적이었으며, 상단 레이어만 미세조정한 경우 정확도가 낮았다.
• 두 번째 LSTM 레이어를 추가함으로써 단일 레이어보다 성능 향상을 보였으며, 더 깊은 순환 모델링의 이점이 입증되었다.
• 주의 메커니즘, 드롭아웃, 적응형 샘플링과 같은 기법들은 이 설정에서는 측정 가능한 성능 향상 없이 실패했다.