[논문 리뷰] The Medico-Task 2018: Disease Detection in the Gastrointestinal Tract using Global Features and Deep Learning

Vajira Thambawita, Debesh Jha외 5명|arXiv (Cornell University)|2018. 10. 31.

COVID-19 diagnosis using AI참고 문헌 13인용 수 28

한 줄 요약

이 논문은 전이 학습과 글로벌 특징을 결합한 딥러닝 접근법을 제안하여 소화기 질환 감지를 위해 이중 컨볼루션 신경망(ResNet-152 및 DenseNet-161)과 다층 퍼셉트론을 사용해 예측을 융합한다. 이 방법은 Medico-Task 2018 벤치마크에서 95.80%의 정확도, 95.87%의 정밀도, 95.80%의 F1 점수를 기록하여 단일 네트워크 및 단순 평균화 방법을 능가했다.

ABSTRACT

In this paper, we present our approach for the 2018 Medico Task classifying diseases in the gastrointestinal tract. We have proposed a system based on global features and deep neural networks. The best approach combines two neural networks, and the reproducible experimental results signify the efficiency of the proposed model with an accuracy rate of 95.80%, a precision of 95.87%, and an F1-score of 95.80%.

연구 동기 및 목표

• 내 endoscopic 영상에서 16개의 고도로 불균형한 소화기 질환 유형을 분류하는 데 도전하는 것.
• 전이 학습과 글로벌 특징 추출을 활용해 소규모, 불균형 데이터셋에서의 분류 성능을 향상시키는 것.
• 다양한 사전 훈련된 네트워크를 융합하는 앙상블 딥러닝 전략을 탐색하여 더 나은 일반화 성능을 달성하는 것.
• 시각적으로 유사한 카테고리 간의 오분류를 줄이는 것, 예를 들어 식도염과 정상-z-라인 사이의 오분류.
• 검증 및 미사용 테스트 데이터 모두에서 잘 일반화되는 견고한 모델을 개발하는 것.

제안 방법

• LIRE를 통해 추출한 글로벌 특징(예: PHOG, Tamura, 색상 레이아웃)을 영상 표현으로 사용하고, 이를 단순로지스틱 회귀( SimpleLogistic) 및 로지스틱 모델 트리(Logistic Model Tree) 분류기와 함께 활용하였다.
• ImageNet 사전 훈련된 ResNet-152 및 DenseNet-161을 사용하여 전이 학습을 적용하고, 16개 클래스의 소화기 질환 분류를 위해 최종 레이어를 미세조정하였다.
• 과적합 및 국소 최적값을 방지하기 위해 데이터 증강(뒤집기, 회전, 크기 조정)과 동적 학습률 스케줄링을 적용하였다.
• 두 네트워크를 별도의 손실 함수(loss 1 및 loss 2)를 사용하여 동시에 훈련시켜 독립적인 가중치 갱신을 가능하게 하였다.
• 두 네트워크의 확률 출력을 비선형 융합하기 위해 32개의 입력과 16개의 출력을 가진 다층 퍼셉트론(MLP)을 도입하여 단순 평균화 방식을 대체하였다.
• 사전 훈련된 CNN을 동결하고 오직 MLP만을 미세조정하여 최적의 결정 융합을 학습시켰으며, 이는 일반화 성능 향상에 기여하였다.

실험 결과

연구 질문

• RQ1 학습 가능한 융합 메커니즘을 갖춘 두 개의 사전 훈련된 딥 네트워크를 융합하는 것이 소규모, 불균형한 소화기 질환 데이터셋에서 분류 정확도를 향상시킬 수 있는가?
• RQ2 단순 평균화 방식을 학습 가능한 MLP로 대체할 경우 다중 클래스 의료 영상 분류에서 성능 향상이 이루어지는가?
• RQ3 전통적인 기계 학습 모델과 융합된 글로벌 특징은 딥러닝 접근법에 비해 소화기 질환 감지에 얼마나 효과적인가?
• RQ4 데이터 증강 및 동적 학습률 스케줄링이 소규모 데이터 환경에서 내시경 영상 분류에 있어 과적합을 얼마나 효과적으로 완화하는가?
• RQ5 높은 전체 정확도에도 불구하고 일부 질환 유형(예: 식도염과 정상-z-라인)은 왜 여전히 오분류에 취약한가?

주요 결과

• ResNet-152 및 DenseNet-161를 사용하고 MLP 융합 레이어를 적용한 제안된 방법은 검증 세트에서 95.80%의 정확도, 95.87%의 정밀도, 95.80%의 F1 점수를 기록하였다.
• MLP 기반 융합(방법 5)은 단순 평균화(방법 4)를 능가하여 정확도를 95.55%에서 95.80%로 향상시켰다.
• 공식 테스트 세트에서 모델은 99.32%의 정확도를 기록하여 강력한 일반화 능력과 견고성을 입증하였다.
• 혼동 행렬은 식도염(E)과 정상-z-라인(I) 간에 심각한 오분류가 발생하고 있음을 보여주었으며, 이는 내시경 영상에서의 시각적 유사성 때문으로 분석되었다.
• 방법 5는 높은 특이도(99.71%)와 매튜스 상관계수(0.9546)를 기록하여 불균형 데이터에서 강력한 성능을 보였다.
• 최적의 융합 함수를 학습 가능한 방식으로 학습하기 위해 추가적인 다층 퍼셉트론을 사용한 결과, 고정된 평균화 방식에 비해 성능 향상이著명하여 학습 가능한 앙상블 방법의 가치를 입증하였다.