[논문 리뷰] Intracranial Hemorrhage Detection Using Neural Network Based Methods With Federated Learning

Utkarsh Chandra Srivastava, Dhruv Upadhyay외 1명|arXiv (Cornell University)|2020. 01. 01.

Intracerebral and Subarachnoid Hemorrhage Research참고 문헌 2인용 수 4

한 줄 요약

이 논문은 92% 이상의 정확도로 CT 영상에서 뇌내 출혈을 탐지하고 분류하기 위해 DenseNet121과 TimeDistributed GRU를 조합한 연합 학습 기반 딥 러닝 모델을 제안한다. 이 방법은 원시 의료 데이터를 공유하지 않고도 환자의 개인정보를 보호하면서 병원 간 분산 학습을 가능하게 한다.

ABSTRACT

Intracranial hemorrhage, bleeding that occurs inside the cranium, is a serious health problem requiring rapid and often intensive medical treatment. Such a condition is traditionally diagnosed by highly-trained specialists analyzing computed tomography (CT) scan of the patient and identifying the location and type of hemorrhage if one exists. We propose a neural network approach to find and classify the condition based upon the CT scan. The model architecture implements a time distributed convolutional network. We observed accuracy above 92% from such an architecture, provided enough data. We propose further extensions to our approach involving the deployment of federated learning. This would be helpful in pooling learned parameters without violating the inherent privacy of the data involved.

연구 동기 및 목표

• 급성 신경학적 응급상황에서 뇌내 출혈을 신속하고 정확하게 탐지할 급박한 필요성을 해결한다.
• CT 영상 해석에 시간이 오래 걸리고 전문가 의존도가 높은 문제를 줄인다.
• 민감한 데이터를 보유한 의료 기관에서의 구현에 적합한 개인정보 보호 기반 머신러닝 프레임워크를 개발한다.
• 분산된 의료 기관 간의 연합 학습을 통해 모델의 일반화 능력과 강인성을 향상시킨다.
• 정제 및 경량 추론을 통한 최적화로 저자원 임상 환경에서의 모델 구현 효율성을 높인다.

제안 방법

• 2D CT 슬라이스에서 특징을 추출하기 위해 수정된 DenseNet121 아키텍처를 사용하여, 밀집 연결을 통해 특징 재사용과 기울기 흐름을 향상시킨다.
• DenseNet121 출력에 TimeDistributed 레이어를 통합하여 순차적 CT 슬라이스를 처리함으로써, 슬라이스 간 출혈의 시공간적 변화를 포착할 수 있도록 한다.
• 순환 신경망 구조 내에서 GRU를 사용하여 CT 스캔 시리즈의 순차적 의존성을 모델링함으로써 출혈 아형의 분류 성능을 향상시킨다.
• 원시 환자 데이터를 이전하지 않고도 다수의 병원 간 글로벌 모델을 학습하기 위해 연합 학습을 구현하며, 암호화된 모델 업데이트만 공유한다.
• 원격 또는 저자원 임상 환경에서의 구현을 위해 모델 정제 및 아키텍처 재설계를 적용하여 계산 부담을 감소시킨다.
• 모델 성능을 유지하면서도 데이터 기밀성을 확보하기 위해 안전한 모델 집계를 수행하는 연합 평균 기법을 사용한다.

실험 결과

연구 질문

• RQ1 2D 컨볼루션 네트워크와 순차적 시간 모델링을 조합한 딥 러닝 모델이 CT 영상에서 뇌내 출혈을 높은 정확도로 탐지할 수 있는가?
• RQ2 연합 학습은 민감한 환자 데이터를暴露하지 않고도 다수의 병원 간에 출혈 탐지 모델을 공동으로 학습시키는 데 어떻게 기여하는가?
• RQ3 부피적 의료 영상에서 3D-컨볼루션 네트워크를 사용할 경우 2D-CNN 대비 탐지 성능 향상 정도는 어느 정도인가?
• RQ4 병원 간 비균일한 데이터 분포(IID 아님)가 연합 학습 기반 출혈 탐지 모델의 수렴성과 정확도에 미치는 영향은 어떠한가?
• RQ5 모델 압축 및 정제 기법을 사용하면 딥 러닝 시스템이 저성능 컴퓨팅 환경에서의 구현에 실용적으로 활용될 수 있는가?

주요 결과

• 제안된 모델은 CT 영상에서 뇌내 출혈을 탐지하고 분류하는 데 92% 이상의 정확도를 달성하여, ResNet50 및 ResNet101과 같은 기준 모델을 능가했다.
• TimeDistributed GRU 레이어의 통합으로 순차적 CT 슬라이스 간의 시간적 패턴을 포착하는 능력이 크게 향상되어 분류 성능이 향상되었다.
• 연합 학습을 통해 원시 의료 데이터를 공유하지 않고도 다수 기관 간 효과적인 글로벌 모델 학습이 가능해졌으며, 환자 기밀성 보호와 네트워크 전송 오버헤드 감소를 달성했다.
• 특히 연합 평균과 안전한 모델 업데이트를 결합함으로써, 데이터 왜곡과 비균일 분포에 대한 모델의 강인성이 입증되었다.
• 연합 학습은 데이터 전송을 최소화하여 통신 병목 현상을 줄였지만, 제한된 클라이언트 컴퓨팅 및 스토리지 자원으로 인해 여전히 도전 과제가 존재했다.
• 향후 3D-컨볼루션 및 차별적 기밀성과 같은 개선 방안이 정확도와 기밀성 향상에 유망한 방향으로 제시되었다.