[논문 리뷰] GraphX$^{NET}-$ Chest X-Ray Classification Under Extreme Minimal Supervision

Angelica I. Avilés-Rivero, Nicolas Papadakis외 5명|arXiv (Cornell University)|2019. 07. 23.

COVID-19 diagnosis using AI참고 문헌 18인용 수 29

한 줄 요약

이 논문은 흉부 X-ray 분류를 위한 새로운 그래프 기반 준지도 학습 프레임워크인 GraphX${}^\text{NET}$를 제안하며, 라벨이 20% 밖에 없는 조건에서도 최신 기술 수준의 성능을 달성한다. 이는 극도로 적은 라벨 데이터를 사용함에도 불구하고 높은 정확도와 강건성을 보여준다. 이 방법은 클래스 사전 정보를 활용한 정규화된 p-라플라시안을 사용하여 그래프 구조 최적화 모델을 통해 레이블을 비라벨 데이터로 부드럽게 전파한다.

ABSTRACT

The task of classifying X-ray data is a problem of both theoretical and clinical interest. Whilst supervised deep learning methods rely upon huge amounts of labelled data, the critical problem of achieving a good classification accuracy when an extremely small amount of labelled data is available has yet to be tackled. In this work, we introduce a novel semi-supervised framework for X-ray classification which is based on a graph-based optimisation model. To the best of our knowledge, this is the first method that exploits graph-based semi-supervised learning for X-ray data classification. Furthermore, we introduce a new multi-class classification functional with carefully selected class priors which allows for a smooth solution that strengthens the synergy between the limited number of labels and the huge amount of unlabelled data. We demonstrate, through a set of numerical and visual experiments, that our method produces highly competitive results on the ChestX-ray14 data set whilst drastically reducing the need for annotated data.

연구 동기 및 목표

• X-ray 분류에서 낮은 품질과 부족한 라벨이 부여된 의료 영상 데이터의 심각한 문제를 해결한다.
• 대규모이고 잠재적으로 편향된 레이블이 부여된 데이터셋이 필요로 하는 전통적인 지도 학습 기반 딥러닝 방법의 한계를 극복한다.
• 엄청나게 많은 비라벨 데이터를 효과적으로 활용하여 극도로 라벨이 부족한 조건에서도 분류 성능을 향상시키는 준지도 학습 프레임워크를 개발한다.
• 그래프에서의 레이블 전파와 해의 부드러움을 향상시키기 위해 맞춤형 클래스 사전 정보를 적용한 새로운 다중 클래스 분류 기능을 제안한다.
• 그래프 기반 준지도 학습을 흉부 X-ray 분류에 적용한 최초의 사례를 구축하며, 의료 영상 분야에서의 잠재력을 입증한다.

제안 방법

• 이미지가 노드에 해당하고, 특성 유사도에 따라 가중치가 부여된 무방향 가중 그래프로 흉부 X-ray 데이터셋을 표현한다.
• 정규화된 비스무스스러운 p=1 라플라시안을 사용하여 그래프 최적화 문제로 분류 작업을 공식화함으로써 강건성과 희박성 확보.
• 데이터 통계에서 유도된 클래스 사전 정보를 활용한 새로운 다중 클래스 분류 기능을 설계하여 레이블 전파를 이끌고 해의 부드러움을 향상시킨다.
• 라벨 데이터 제약 조건을 충족시키면서도 그래프 기반 에너지 기능을 최소화하기 위해 원시-쌍대 알고리즘을 사용하여 최적화 문제를 해결한다.
• 전도 학습을 적용하여 전체 그래프 구조를 활용해 라벨이 부여된 노드와 비라벨 노드를 동시에 예측한다.
• 그래프 라플라시안을 사용하여 인접한 노드 간 예측의 부드러움을 강제함으로써 노이즈가 많거나 잘못 레이블이 부여된 학습 샘플에 대한 민감도를 감소시킨다.

실험 결과

연구 질문

• RQ1 그래프 기반 준지도 학습 프레임워크는 극도로 감소된 라벨 데이터를 사용하여 흉부 X-ray 영상에서 경쟁력 있는 분류 정확도를 달성할 수 있는가?
• RQ2 최적화된 클래스 사전 정보를 갖춘 제안된 방법은 기존 그래프 기반 방법에 비해 레이블 전파와 해의 부드러움을 얼마나 향상시키는가?
• RQ3 비교적 높은 라벨 수준의 지도 학습 기반 모델에 비해, 데이터 분할 및 라벨 세트의 변화에 대해 이 프레임워크의 성능은 얼마나 강건한가?
• RQ4 라벨 데이터의 20%만으로 훈련된 경우, 그래프 기반 준지도 학습이 최신 기술 수준의 딥러닝 모델을 초월할 수 있는가?
• RQ5 정규화된 p=1 라플라시안을 사용할 경우, 기존의 p=2 공식화에 비해 의료 영상 분류에서 더 안정적이고 정확한 예측을 이끌 수 있는가?

주요 결과

• GraphX${}^\text{NET}$는 ChestX-ray14 데이터셋에서 라벨 데이터의 20%만을 사용하여 평균 AUC 0.7888을 달성하며, Wang et al. (2017) 및 Yao et al. (2018)와 같은 최신 기술 수준의 딥러닝 모델을 능가한다.
• 이 방법은 다양한 무작위 데이터 분할에 걸쳐 높은 안정성을 유지하며, AUC 변동이 최소화되어 있다. 반면 지도 학습 기반 모델은 학습 세트 구성에 매우 민감하다.
• 라벨 데이터가 5%일 경우에도 GraphX${}^\text{NET}$는 AUC 0.58을 기록하며, Wang et al. (2017)의 70% 데이터로 훈련한 모델(AUC = 0.548)보다 높은 성능을 보였다.
• 14개 병변 중 10개에서 뛰어난 성능을 기록하였으며, 특히 폐렴(AUC 0.7664 vs. 0.658)과 종양(AUC 0.809 vs. 0.693)과 같은 도전적인 클래스에서 뚜렷한 향상을 보였다.
• 기능에 클래스 사전 정보를 포함시킴으로써 레이블 전파가 더 부드러워지고 일반화 성능이 향상되었으며, 특히 데이터가 적은 환경에서 두드러졌다.
• 이 방법은 그래프 기반 준지도 학습이 의료 영상 분류에 실현 가능할 뿐 아니라, 특히 라벨 데이터가 부족한 상황에서 매우 효과적일 수 있음을 입증한다.