[論文レビュー] UGCANet: A Unified Global Context-Aware Transformer-based Network with Feature Alignment for Endoscopic Image Analysis

Pham Vu Hung, Nguyen Duy Manh+3 more|arXiv (Cornell University)|Jul 12, 2023

Colorectal Cancer Screening and Detection被引用数 5

ひとこと要約

本稿では、UGCANetと呼ばれる統合型のTransformerベースの深層学習モデルを提案する。このモデルは、CGNLおよびSEモジュールを用いてチャネル注意メカニズムとグローバルな文脈を統合し、上部消化管および結腸鏡画像データセットにおいて、同時に病変およびポリープのセグメンテーションと分類を行うタスクで最先端の性能を達成する。

ABSTRACT

Gastrointestinal endoscopy is a medical procedure that utilizes a flexible tube equipped with a camera and other instruments to examine the digestive tract. This minimally invasive technique allows for diagnosing and managing various gastrointestinal conditions, including inflammatory bowel disease, gastrointestinal bleeding, and colon cancer. The early detection and identification of lesions in the upper gastrointestinal tract and the identification of malignant polyps that may pose a risk of cancer development are critical components of gastrointestinal endoscopy's diagnostic and therapeutic applications. Therefore, enhancing the detection rates of gastrointestinal disorders can significantly improve a patient's prognosis by increasing the likelihood of timely medical intervention, which may prolong the patient's lifespan and improve overall health outcomes. This paper presents a novel Transformer-based deep neural network designed to perform multiple tasks simultaneously, thereby enabling accurate identification of both upper gastrointestinal tract lesions and colon polyps. Our approach proposes a unique global context-aware module and leverages the powerful MiT backbone, along with a feature alignment block, to enhance the network's representation capability. This novel design leads to a significant improvement in performance across various endoscopic diagnosis tasks. Extensive experiments demonstrate the superior performance of our method compared to other state-of-the-art approaches.

研究の動機と目的

• 既存のMiTバックボーンが、内視鏡画像におけるグローバルな文脈とチャネル関係を捉える能力に限界を示しているのを是正すること。
• 特徴グループ全体にわたるチャネル注意メカニズムを強化することで、深層ネットワークにおける表現学習を向上させること。
• 胃腸内視鏡におけるセグメンテーションと分類の両方を同時に行える統合型モデルの開発。
• 最先端の手法と比較して、上部消化管 tract 病変および結腸ポリープ分析のベンチマークデータセットで優れた性能を達成すること。

提案手法

• 特徴グループ内のチャネル間関係をモデル化するため、グループ化されたチャネル注意（CGNL）を用いた新しいグローバル文脈に配慮したモジュールを提案する。
• チャネルグループ間の関係を橋渡し・強化するために、スイズ・アンド・エクスカーション（SE）モジュールを導入し、特徴表現を向上させる。
• MiT-B2/B3バックボーンとFaPNデコーダーを統合し、特徴ピラミッド統合を可能にすることで、マルチスケールの文脈集約を実現する。
• 分類ヘッド用に高レベル特徴を処理するための全結合層を採用し、セグメンテーションと分類の統合を可能にする。
• セグメンテーションと分類ヘッド間で特徴を共有する統一アーキテクチャを採用し、一般化性能の向上を図るマルチタスク学習を実現する。
• エンコーダ・デコーダパスウェイ全体にわたり、空間的およびチャネルワイドの情報を保持するため、FaPNデコーダによる特徴アライメントを適用する。

実験結果

リサーチクエスチョン

• RQ1 統合型のTransformerベースアーキテクチャは、内視鏡画像分析におけるセグメンテーションと分類の両性能を向上させることができるか？
• RQ2 グループ化されたチャネル注意（CGNL）およびスイズ・アンド・エクスカーション（SE）モジュールを組み込むことで、MiTバックボーンにおける特徴表現はどのように向上するか？
• RQ3 マルチタスク学習は、単一タスクのベースラインと比較して、セグメンテーションと分類の精度にどのような影響を与えるか？
• RQ4 標準的な内視鏡データセットにおいて、提案されたUGCANetアーキテクチャは最先端のモデルと比較してどうなるか？
• RQ5 通常のデコーダーと比較して、FaPNデコーダーは計算コストを削減しながら、性能をどの程度向上させるか？

主な発見

• UGCANet（MiT-B3バックボーン）は、Kvasirデータセットで平均Diceスコア0.517 ± 0.007を達成し、SegFormer-B3やU-Netを含むすべてのベースラインを上回った。
• CVC-ClinicDBデータセットでは、Diceスコア0.943 ± 0.008、IOU 0.896 ± 0.008を達成し、ベースラインのMiT-B3-FaPNと比較して1.5%の向上を示した。
• 分類タスクでは、上部消化管データセットで98.46% ± 0.41%の精度を達成し、ResNet50やDenseNet121を上回った。
• アブレーションスタディの結果、CGNLとSEモジュールを併用することで、ポリープおよび上部消化管データセットの両方でmDiceが1〜2%向上した。
• UGCANetを用いたマルチタスク学習は、単一タスクのベースラインを上回った。特にポリープセグメンテーションタスクでは、CVC-TでmDiceが2.3%向上した。
• FaPNデコーダーはGFLOPsとパラメータ数を削減しながら、SegFormer-B3と比較してmDiceを0.011向上させ、効率性と有効性の両立を示した。