[논문 리뷰] FDVTS's Solution for 2nd COV19D Competition on COVID-19 Detection and Severity Analysis

Junlin Hou, Jilan Xu외 2명|arXiv (Cornell University)|2022. 07. 05.

COVID-19 diagnosis using AI인용 수 4

한 줄 요약

이 논문은 3D 대비 혼합 학습 분류 네트워크(CMC-COV19D)를 제안하여 흉부 CT 영상에서 COVID-19 검출 및 중증도 분류를 향상시킨다. 이 방법은 대비 표현 학습과 혼합 학습 데이터 증강을 결합하며, 검출 과제에서 0.933, 중증도 예측 과제에서 0.770의 매크로 F1 점수를 기록하여 기준 모델 대비 각각 16.3%, 14% 향상되었다.

ABSTRACT

This paper presents our solution for the 2nd COVID-19 Competition, occurring in the framework of the AIMIA Workshop in the European Conference on Computer Vision (ECCV 2022). In our approach, we employ an effective 3D Contrastive Mixup Classification network for COVID-19 diagnosis on chest CT images, which is composed of contrastive representation learning and mixup classification. For the COVID-19 detection challenge, our approach reaches 0.9245 macro F1 score on 484 validation CT scans, which significantly outperforms the baseline method by 16.5%. In the COVID-19 severity detection challenge, our approach achieves 0.7186 macro F1 score on 61 validation samples, which also surpasses the baseline by 8.86%.

연구 동기 및 목표

• 3D 흉부 CT 영상에서 딥 러닝을 활용한 COVID-19 검출 및 중증도 분류 정확도 향상.
• 정밀한 영상 해석 작업 부담을 줄이기 위해 강력한 딥 러닝 모델을 활용한 진단 자동화.
• 대비 표현 학습과 혼합 학습 증강을 통해 모델 일반화 능력 향상 및 구분 능력 향상된 특징 학습 강화.
• 검출 및 중증도 과제 모두에서 2회차 COV19D 경쟁 대회 기준 성능을 최고 수준으로 달성.
• 낮은 자원 환경에서 높은 영향력을 지닌 진단 과제에 대해 대비 학습과 혼합 학습을 융합한 의료 영상 분석의 유효성 검증.

제안 방법

• 이 방법은 대비 표현 학습(CRL)과 혼합 학습 기반 데이터 증강을 통합한 3D 대비 혼합 학습 분류 네트워크(CMC-COV19D)를 사용한다.
• CRL은 입력 CT마다 두 개의 시각을 생성하기 위해 확률적 데이터 증강 모듈을 활용하며, 이를 기반으로 기저 인코더와 프로젝션 헤드를 통해 대비 표현을 생성한다.
• 대비 손실은 동일 클래스의 증강 시각(양성 쌍)과 다른 클래스의 시각(음성 쌍) 간의 감독 대비 손실로 정의되며, 온도 스케일링을 적용한다.
• 혼합 학습 증강은 두 입력 CT 볼륨과 그들의 one-hot 레이블을 선형 보간하여 혼합 샘플을 생성하며, 혼합 샘플에 대해 교차 엔트로피 손실을 적용한다.
• 최종 목표는 대비 손실, 혼합 학습 손실, 분류 교차 엔트로피 손실을 조합한 것으로, 학습 가능한 가중치를 통해 손실 간 균형을 조절한다.
• 확장된 3D ResNest50와 Uniformer-S를 백본 네트워크로 사용하며, 이미지넷 및 키티네스-400에서 사전 학습하여 특징 추출 성능 향상.

실험 결과

연구 질문

• RQ1 대비 표현 학습은 3D 흉부 CT 영상에서 COVID-19 검출을 위한 구분 능력 향상된 특징 학습에 기여하는가?
• RQ2 혼합 학습 데이터 증강은 의료 영상 분류에서 낮은 데이터 환경에서 일반화 능력과 강건성을 향상시키는가?
• RQ3 대비, 혼합 학습, 분류 손실의 공동 최적화가 진단 성능 향상에 얼마나 효과적인가?
• RQ4 제안된 3D CMC-COV19D 프레임워크는 검출 및 중증도 분류 과제에서 기존 기준 모델을 초월하는가?
• RQ5 다른 사전 학습 전략(이미지넷 대비 키티네스-400)이 이 의료 영상 설정에서 모델 성능에 미치는 영향은 무엇인가?

주요 결과

• 제안된 CMC-COV19D 모델은 검출 과제의 검증 세트에서 매크로 F1 점수 0.933를 기록하여 기준 모델 대비 16.3%포인트 향상되었다.
• 중증도 검출 과제에서는 매크로 F1 점수 0.770를 기록하여 기준 방법 대비 14% 향상되었다.
• 대비 표현 학습과 혼합 학습 증강을 모두 포함한 결과, 테스트한 모든 백본 아키텍처에서 일관된 성능 향상이 관찰되었다.
• 성능이 가장 뛰어난 모델은 Kinetics-400에서 사전 학습한 Uniformer-S 백본을 사용했으며, 16x8 시간 해상도로 설정하여 검출 과제에서 0.933 매크로 F1 점수를 기록했다.
• 적응형 혼합 학습 및 컷믹스 전략의 사용은 성능 향상에 기여하였으며, 이는 고급 데이터 증강이 의료 영상에서 중요한 역할을 한다는 것을 시사한다.
• 대비 및 혼합 학습 구성 요소가 포함된 모델는 ResNest50와 Uniformer-S를 포함한 다양한 백본에서 일관된 성능 향상을 보이며 강력한 일반화 능력을 입증하였다.