[論文レビュー] Delineation of Skin Strata in Reflectance Confocal Microscopy Images using Recurrent Convolutional Networks with Toeplitz Attention

Alican Bozkurt, Kıvanç Köse+5 more|arXiv (Cornell University)|Dec 1, 2017

AI in cancer detection参考文献 6被引用数 6

ひとこと要約

本稿では、反射型共焦点顕微鏡（RCM）画像スタックにおける皮膚層（表皮、DEJ、真皮）の自動的輪郭指定を目的として、Toeplitz注意機構を備えた再帰的畳み込みネットワーク（RCN）を提案する。深さ不変で局所的な注意機構を採用することで解釈可能性が向上し、88.17%の画像単位分類精度を達成した。これは、現在の最良の性能（SOTA）であり、限定的でコンパクトなサポート構造を持つ。

ABSTRACT

Reflectance confocal microscopy (RCM) is an effective, non-invasive pre-screening tool for skin cancer diagnosis, but it requires extensive training and experience to assess accurately. There are few quantitative tools available to standardize image acquisition and analysis, and the ones that are available are not interpretable. In this study, we use a recurrent neural network with attention on convolutional network features. We apply it to delineate skin strata in vertically-oriented stacks of transverse RCM image slices in an interpretable manner. We introduce a new attention mechanism called Toeplitz attention, which constrains the attention map to have a Toeplitz structure. Testing our model on an expert labeled dataset of 504 RCM stacks, we achieve 88.17% image-wise classification accuracy, which is the current state-of-art.

研究の動機と目的

• 皮膚がん診断におけるRCM画像解析の標準化に向けた、解釈可能で定量的なツールの不足に対処すること。
• モデルの解釈可能性を向上させるために、再帰的畳み込みネットワーク（RCN）に注意メカニズムを導入することで、既存のRCNを改善すること。
• 皮膚の解剖的制約（一方向の層遷移）を尊重する注意機構を用いて、RCMスタックの順序的性質をモデル化すること。
• 限定的で深さに依存しないサポートを有する局所的注意機構が、全系列モデルと同等またはそれを上回る精度を達成できるかを検証すること。
• 構造化された注意機構を用いて、解剖学的に不可能な遷移（例：真皮から表皮への遷移）を最小限に抑えること。

提案手法

• 垂直に積み重ねられたRCMスライスを処理する再帰的畳み込みネットワーク（RCN）を用い、その順序的構造を活用する。
• 注意重みをToeplitz行列構造に制約することで、深さに依存せず局所的な注意を実現する、新規のToeplitz注意メカニズムを導入する。
• 注意は現在のスライスを中心に、2D+1の窓をカバーするモノトニックなアライメント戦略を採用し、Dが受容 field を制御する。
• 特徴表現上での微分可能重み付けによるソフト注意を適用し、勾配ベース最適化と注意マップの可視化を可能にする。
• 全系列モデル、Toeplitz注意（D=0からD=7）、部分系列RCNを比較することで、性能と一貫性を評価する。
• RCNの入力前に特徴抽出用としてInception v3をバックボーンとして用いる。

実験結果

リサーチクエスチョン

• RQ1 構造化された注意機構は、精度を損なわせることなく、RCM層分類の解釈可能性を向上させることができるか？
• RQ2 深さに依存しない限定的サポート（Toeplitz構造による）を有する局所的注意機構は、グローバル注意や全系列モデルを上回る性能を示すか？
• RQ3 RCMスタック分類における注意の最適な受容 field サイズ（D）は何か？また、臨床的直観（最小限の必要な文脈）と整合するか？
• RQ4 注意機構は、ベースラインモデルと比較して、解剖学的に不可能な遷移（例：真皮から表皮への遷移）の数を減らすことができるか？
• RQ5 デコーダーにおける入力フィードバックは、層の輪郭指定における精度と一貫性にどのように影響するか？

主な発見

• D=1のToeplitz注意モデルが、88.18%という最高の画像単位分類精度を達成し、全系列RCN（87.97%）や部分系列RCN（87.52%）をすべて上回った。
• グローバル注意は86.47%の精度を達成したが、解釈不可能な遷移はゼロであった。これは、精度はわずかに低いものの、一貫性に優れていることを示している。
• D=1（3スライスの受容 field）の設定が、精度と臨床的妥当性の両面で最良のバランスを示し、最小限の文脈で高い性能が達成可能であるという仮説を支持した。
• D=7およびD=1の注意マップは、関連スライスの周囲にガウス型の集中を示しており、スパarsity正則化なしに生物学的に意味のある領域に注目していることが示された。
• D=0（恒等注意）のケースは、全系列RCNとほぼ同等の性能を示し、入力フィードバックが精度を向上させるが、一貫性には寄与しないことを確認した。
• D=1のモデルは、合計で5件の不可能な遷移（DEJ→表皮：4件、真皮→表皮：1件）を記録し、Inception-v3（68件） や Kaurら（402件）といったベースラインモデルと比較して顕著に少ない結果となった。