[論文レビュー] Prototypical Clustering Networks for Dermatological Disease Diagnosis

Viraj Prabhu, Anitha Kannan+4 more|arXiv (Cornell University)|Nov 7, 2018

Cutaneous Melanoma Detection and Management参考文献 22被引用数 7

ひとこと要約

本稿では、クラス内変動性と長尾分布を扱うために、各皮膚科的クラスを複数のプロトタイプの混合としてモデル化する、少数ショット学習手法であるプロトタイプクラスタリングネットワーク（PCN）を提案する。オンラインクラスタリングとプロトタイプへの重み付き類似度を用いることで、PCNは希少で多様な皮膚疾患において優れた性能を発揮し、特に長尾一般化性能においてベースラインを上回る。

ABSTRACT

We consider the problem of image classification for the purpose of aiding doctors in dermatological diagnosis. Dermatological diagnosis poses two major challenges for standard off-the-shelf techniques: First, the data distribution is typically extremely long tailed. Second, intra-class variability is often large. To address the first issue, we formulate the problem as low-shot learning, where once deployed, a base classifier must rapidly generalize to diagnose novel conditions given very few labeled examples. To model diverse classes effectively, we propose Prototypical Clustering Networks (PCN), an extension to Prototypical Networks that learns a mixture of prototypes for each class. Prototypes are initialized for each class via clustering and refined via an online update scheme. Classification is performed by measuring similarity to a weighted combination of prototypes within a class, where the weights are the inferred cluster responsibilities. We demonstrate the strengths of our approach in effective diagnosis on a realistic dataset of dermatological conditions.

研究の動機と目的

• 臨床診断における皮膚科画像データの長尾分布と高い多様性の課題に対処すること。
• 展開後、わずかなラベル付き例でのみ、新規皮膚疾患に迅速に一般化できるようにすること。
• 標準モデルが失敗する希少で多様な皮膚疾患における分類性能を向上させること。
• 元のデータを再トレーニングせず、プライバシーを守りながらスケーラブルに分類器を拡張できる手法を開発すること。

提案手法

• 各クラスを単一のプロトタイプではなく複数のプロトタイプの混合として表現することで、プロトタイプネットワークを拡張する。
• トレーニング中にサポートセットの埋め込みをクラスタリングすることで、各クラスのプロトタイプを初期化する。
• 入ってくるサポート例に基づいてプロトタイプを段階的に更新するオンライン更新スキームを用いて、プロトタイプを精緻化する。
• 重み付きのクラスプロトタイプの組み合わせとの類似度を計算することで分類を実行し、重みはクラスタ責任が推論される。
• 各クエリ画像について、クラスタ責任 q(z|c,x) を推論するための微分可能でソフトなアサインメント機構を用いる。
• エンベッディング空間とプロトタイプ混合パラメータを同時に学習できるように、モデルをエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 少数ショット学習アプローチは、皮膚科疾患の長尾分布を効果的に扱えるか？
• RQ2 各クラスを複数のプロトタイプの混合としてモデル化することで、多様で希少な皮膚疾患における性能が向上するか？
• RQ3 わずかなラベル付き例でのみ、新規クラスに一般化可能でありながら、プライバシーを守れるか？
• RQ4 複数のプロトタイプの間で、変動する臨床的表現に対して正確な予測を下すために、どの程度の補間が可能か？

主な発見

• PCNは強力なベースラインを上回り、特に希少で多様な疾患が最も困難な長尾部分において顕著な性能向上を示す。
• 各クラスごとに複数のプロトタイプを学習することで、クラス内変動性を効果的に捉え、例えば異なる身体部位に現れるニキビなど多様な臨床的表現に対しても正確な予測が可能になる。
• 定性的な分析から、モデルが関連するプロトタイプの間で正しい補間を実行していることが示され、クラスタ責任が皮膚の質感やポーズなどの画像固有の特徴に適応している。
• 誤った予測でも、意味のあるプロトタイプ間の補間が行われており、不確実性の処理におけるロバストネスが示されている。
• 本手法によりプライバシーを守ったモデル拡張が可能である：新規クラスは、元のトレーニングデータやインfraにアクセスせず、単一のフォワードパスでのみ追加可能である。