[論文レビュー] Characterizing Renal Structures with 3D Block Aggregate Transformers

Xin Yu, Yucheng Tang+11 more|arXiv (Cornell University)|Mar 4, 2022

Advanced Neural Network Applications被引用数 4

ひとこと要約

本稿では、対比強化CTスキャンにおける腎臓の亜構造（皮質、内側、腎盂尿路系）のデータ効率性とセグメンテーション精度を向上させるために、3Dブロック集約を組み込んだ3次元階層的トランスフォーマーモデルUNesTを提案する。本手法は、Diceスコア0.8467、手動セグメンテーションと高い相関（ピアソンR = 0.9891）を達成し、公開データセットにおいて強力な再現性と一般化性能を示しており、最先端の性能を達成している。

ABSTRACT

Efficiently quantifying renal structures can provide distinct spatial context and facilitate biomarker discovery for kidney morphology. However, the development and evaluation of the transformer model to segment the renal cortex, medulla, and collecting system remains challenging due to data inefficiency. Inspired by the hierarchical structures in vision transformer, we propose a novel method using a 3D block aggregation transformer for segmenting kidney components on contrast-enhanced CT scans. We construct the first cohort of renal substructures segmentation dataset with 116 subjects under institutional review board (IRB) approval. Our method yields the state-of-the-art performance (Dice of 0.8467) against the baseline approach of 0.8308 with the data-efficient design. The Pearson R achieves 0.9891 between the proposed method and manual standards and indicates the strong correlation and reproducibility for volumetric analysis. We extend the proposed method to the public KiTS dataset, the method leads to improved accuracy compared to transformer-based approaches. We show that the 3D block aggregation transformer can achieve local communication between sequence representations without modifying self-attention, and it can serve as an accurate and efficient quantification tool for characterizing renal structures.

研究の動機と目的

• 3次元医療画像における小構造セグメンテーションのためのトランスフォーマー基盤モデルのデータ非効率性を解消すること。
• 自己注意機構を変更せずに局所表現学習を向上させる、階層的3次元トランスフォーマー・アーキテクチャを開発すること。
• 腎臓亜構造（116例）の臨床的アノテーション付き初のデータセットを構築すること。
• 腎皮質、内側、集合管系の体積を信頼性高く自動定量可能にするために、バイオマーカー探索を支援すること。
• KiTS19などの外部データセットを用いて、手法の一般化性能と臨床的有用性を検証すること。

提案手法

• 3次元ブロック集約を用いた階層的トランスフォーマー・エンコーダーを備えた3次元U字型医療セグメンテーションモデルUNesTを提案し、シーケンス表現間の通信を可能にする。
• 2つのトランスフォーマー層ごとに8倍の要因でパッチを統合するブロック集約関数を導入し、グローバル自己注意メカニズムを変更せずに局所的なインダクティブバイアスを強化する。
• 標準的な自己注意を維持しながら、小構造のためのデータ効率性と表現学習を向上させる簡素化された設計を採用する。
• ネストド・ViTをインspiredしたネストド・トランスフォーマー・アーキテクチャを用い、高解像度3次元医療ボリュームの階層的モデリングを可能にする。
• 専門家がアノテートした腎臓亜構造を備えた116例の対比強化CTスキャンから構築した新規データセットでモデルを訓練する。
• 変動するデータレジームにおける性能評価として、Diceスコア、手動セグメンテーションとのピアソン相関、収束解析を用いる。

実験結果

リサーチクエスチョン

• RQ1 自己注意機構を変更せずに、3次元ブロック集約機構がトランスフォーマー基盤3次元医療画像セグメンテーションにおけるデータ効率性を向上させることができるか？
• RQ2 提案された階層的トランスフォーマー設計は、標準トランスフォーマーや局所的自己注意変種と比較して、小構造の腎臓亜構造に対してより優れた性能を示すか？
• RQ3 本モデルはKiTS19などの外部データセットにどの程度一般化できるか、また、既存の最先端手法と比較してどうなるか？
• RQ4 低データレジーム下でのモデルの性能と収束速度はどのように変化するか、また、手動セグメンテーションとの再現性はどの程度か？
• RQ5 本手法は手動体積測定と高い相関を示すことができるか、これによりバイオマーカー探索における臨床的有用性が裏付けられるか？

主な発見

• 提案されたUNesTモデルは、腎臓亜構造データセットでDiceスコア0.8467を達成し、ベースライン（0.8308）を上回り、最先端の性能を示している。
• 自動測定と手動測定の体積間でピアソン相関が0.9891に達し、再現性と信頼性の高さが裏付けられている。
• 低データレジーム下では、ブロック集約設計により、2番目に優れた手法と比較してDiceスコアが4%以上向上し、データ効率性の向上が顕著に示された。
• 階層的モジュールを用いることで、2Kイテレーションで15%、30Kイテレーションで4%高速に収束するため、トレーニングダイナミクスの向上が確認された。
• 公開データセットKiTS19で評価したところ、腎臓のDiceスコアは0.9778、腫瘍のDiceスコアは0.8398を達成し、強力な一般化性能を示した。
• Bland-Altman解析により、自動セグメンテーションが手動アノテーション（平均差: 0.01）とよりよく一致していることが確認され、人間間の一致度（0.29）を上回り、高い再現性が裏付けられた。