[논문 리뷰] UGCANet: A Unified Global Context-Aware Transformer-based Network with Feature Alignment for Endoscopic Image Analysis

Pham Vu Hung, Nguyen Duy Manh외 3명|arXiv (Cornell University)|2023. 07. 12.

Colorectal Cancer Screening and Detection인용 수 5

한 줄 요약

이 논문은 UGCANet를 제안하며, CGNL 및 SE 모듈을 통해 채널 주의를 통합한 글로벌 컨텍스트 인식 모듈을 통합함으로써, 상부 위장 및 대장내시경 데이터셋에서 병변 및 퇴행성 종양 세분화 및 분류 작업에서 최신 기술 수준(SOTA) 성능을 달성하는 통합형 트랜스포머 기반 딥러닝 모델이다.

ABSTRACT

Gastrointestinal endoscopy is a medical procedure that utilizes a flexible tube equipped with a camera and other instruments to examine the digestive tract. This minimally invasive technique allows for diagnosing and managing various gastrointestinal conditions, including inflammatory bowel disease, gastrointestinal bleeding, and colon cancer. The early detection and identification of lesions in the upper gastrointestinal tract and the identification of malignant polyps that may pose a risk of cancer development are critical components of gastrointestinal endoscopy's diagnostic and therapeutic applications. Therefore, enhancing the detection rates of gastrointestinal disorders can significantly improve a patient's prognosis by increasing the likelihood of timely medical intervention, which may prolong the patient's lifespan and improve overall health outcomes. This paper presents a novel Transformer-based deep neural network designed to perform multiple tasks simultaneously, thereby enabling accurate identification of both upper gastrointestinal tract lesions and colon polyps. Our approach proposes a unique global context-aware module and leverages the powerful MiT backbone, along with a feature alignment block, to enhance the network's representation capability. This novel design leads to a significant improvement in performance across various endoscopic diagnosis tasks. Extensive experiments demonstrate the superior performance of our method compared to other state-of-the-art approaches.

연구 동기 및 목표

• 기존 MiT 백본이 내시경 영상에서 글로벌 컨텍스트와 채널 관계를 포착하는 데 한계가 있음을 해결하기 위해.
• 특징 그룹 간의 채널 주의 메커니즘 향상을 통해 딥 네트워크의 표현 학습을 향상시키기 위해.
• 위장내시경에서 세분화 및 분류 작업을 동시에 수행할 수 있는 통합 모델을 개발하기 위해.
• 최신 기술 수준의 방법들과 비교하여 표준 벤치마크 데이터셋에서 상부 위장 트랙 병변 및 대장 종양 분석에서 뛰어난 성능을 달성하기 위해.

제안 방법

• 특징 그룹 내의 상호 채널 관계를 모델링하기 위해 그룹화된 채널 주의(CGNL)를 사용하는 새로운 글로벌 컨텍스트 인식 모듈을 제안한다.
• 채널 그룹 간의 관계를 다지고 향상시키기 위해 스위즈-익스카이티드(SE) 모듈을 도입하여 특징 표현을 향상시킨다.
• MiT-B2/B3 백본과 FaPN 디코더를 통합하여 특징 피라미드 융합을 가능하게 하여 다중 척도 컨텍스트 집합을 지원한다.
• 분류 헤드를 위해 고수준 특징을 처리하기 위해 완전 연결층을 사용하여 동시에 세분화 및 분류를 가능하게 한다.
• 세분화 및 분류 헤드 간의 특징 공유를 통해 일반화 능력을 향상시키기 위해 다중 작업 학습을 위한 통합 아키텍처를 적용한다.
• 엔코더-디코더 경로 전반에 걸쳐 공간적 및 채널 기반 정보를 유지하기 위해 FaPN 디코더를 통한 특징 정렬을 적용한다.

실험 결과

연구 질문

• RQ1 통합형 트랜스포머 기반 아키텍처가 내시경 영상 분석에서 세분화 및 분류 성능을 향상시킬 수 있는가?
• RQ2 그룹화된 채널 주의(CGNL) 및 스위즈-익스카이티드(SE) 모듈을 통합함으로써 MiT 백본 내 특징 표현이 어떻게 향상되는가?
• RQ3 단일 작업 기반 베이스라인과 비교했을 때 다중 작업 학습이 세분화 및 분류 정확도에 어떤 영향을 미치는가?
• RQ4 제안된 UGCANet 아키텍처는 표준 내시경 데이터셋에서 최신 기술 수준의 모델들과 비교해 어떻게 성능을 내는가?
• RQ5 기본 디코더와 비교했을 때 FaPN 디코더가 계산 비용을 줄이면서 성능을 얼마나 향상시키는가?

주요 결과

• MiT-B3 백본을 사용한 UGCANet는 Kvasir 데이터셋에서 평균 Dice 스코어 0.517 ± 0.007을 기록하여, SegFormer-B3 및 U-Net을 포함한 모든 베이스라인을 초월했다.
• CVC-ClinicDB 데이터셋에서 UGCANet는 Dice 스코어 0.943 ± 0.008과 IOU 0.896 ± 0.008을 기록했으며, 베이스라인 MiT-B3-FaPN 대비 1.5% 향상된 성능을 보였다.
• 분류 작업에서는 상부 위 데이터셋에서 98.46% ± 0.41%의 정확도를 기록하여 ResNet50 및 DenseNet121를 뛰어넘었다.
• 제거 분석 결과, CGNL 및 SE 모듈을 결합함으로써 병변 및 상부 위 데이터셋에서 모두 mDice가 1-2% 향상됨을 확인했다.
• UGCANet를 사용한 다중 작업 학습은 단일 작업 기반 베이스라인을 뛰어넘었으며, 특히 CVC-T에서 병변 세분화 작업에서 mDice가 2.3% 향상되어 성능 향상을 입증했다.
• FaPN 디코더는 GFLOPs와 파라미터 수를 줄였고, SegFormer-B3 대비 mDice를 0.011 향상시켜 효율성과 효과성을 동시에 입증했다.