[論文レビュー] Transfer Learning for Endoscopic Image Classification

Shoji Sonoyama, Toru Tamaki+7 more|arXiv (Cornell University)|Aug 24, 2016

Domain Adaptation and Few-Shot Learning参考文献 9被引用数 4

ひとこと要約

この論文では、異なる内視鏡機器からの画像間のドメイン適応を向上させるために、Max–Margin Domain Transfer (MMDT) を拡張した新しい転移学習手法 MMDTL2 を提案する。L₂ 距離制約を組み込むことで、異なる内視鏡機器からの画像間のドメイン適応が改善され、実世界の内視鏡データセットにおいて MMDT よりも高い分類性能を達成するとともに、導出された双対定式化により計算コストを低減し、限られたラベル付きデータと機器のばらつきがある臨床現場への導入に適したものとなる。

ABSTRACT

In this paper we propose a method for transfer learning of endoscopic images. For transferring between features obtained from images taken by different (old and new) endoscopes, we extend the Max-Margin Domain Transfer (MMDT) proposed by Hoffman et al. in order to use L2 distance constraints as regularization, called Max-Margin Domain Transfer with L2 Distance Constraints (MMDTL2). Furthermore, we develop the dual formulation of the optimization problem in order to reduce the computation cost. Experimental results demonstrate that the proposed MMDTL2 outperforms MMDT for real data sets taken by different endoscopes.

研究の動機と目的

• 内視鏡機器の違い（解像度、明るさ、シャープネスなど）に起因する画像外観の差異による、内視鏡画像分類におけるドメインシフトの課題に対処すること。
• 従来の転移学習手法が、ソースドメインとターゲットドメイン間の画像レベルの対応関係を必要としているという制限を克服すること。
• ペア化されたトレーニング画像を必要とせずに、古い内視鏡システムから新しい内視鏡システムへ効果的な特徴量の転送を可能にする手法を開発すること。
• 最適化問題の双対定式化を導出することで、大規模な特徴量転送における計算コストを低減すること。
• 機器の変更に起因するソース分布とターゲット分布の違いがある実世界の内視鏡データセットにおいて、分類精度を向上させること。

提案手法

• Max–Margin Domain Transfer (MMDT) フレームワークを拡張し、ソースドメインとターゲットドメインの特徴空間間の線形変換を安定化させるために、L₂ 距離制約を正則化項として導入する。
• ドメイン適応変換行列 W と各クラスの分類器パラメータ θk を同時に学習する、制約付き二次計画問題として最適化問題を定式化する。
• 主問題の双対定式化を導出し、特に高次元特徴空間において計算複雑性を低減する。
• スラック変数とマージン制約を用いて分類誤りを扱い、分布シフトの影響に対してもロバスト性を確保する。
• 学習された変換行列 W を用いて、ターゲットドメインの特徴量をソースドメイン空間にマッピングし、事前トレーニング済み分類器を新しい内視鏡データに適用可能にする。
• 双対問題を解くために、ターゲット特徴量とそのラベルに依存する双対変数 ai を計算し、最適化変数の数を著しく削減する。

実験結果

リサーチクエスチョン

• RQ1 異なる内視鏡機器間の転送において、L₂ 距離制約がドメイン適応のロバスト性と性能を向上させることができるか？
• RQ2 提案された最適化問題の双対定式化は、主定式化と比較して計算時間を著しく短縮できるか？
• RQ3 MMDTL2 は、ドメインシフトを示す実世界の内視鏡画像データセットにおいて、MMDT やベースライン手法と比較して分類精度に優れているか？
• RQ4 ペア化された画像を必要とせずに、MMDTL2 は高次元特徴空間（例：M_S = M_T ≥ 256）へどれほど一般化可能か？
• RQ5 限られたターゲットデータセットしか利用できない状況でも、MMDTL2 は完全に教師ありベースラインと同等の性能を達成できるか？

主な発見

• 提案された MMDTL2 手法は、全テスト特徴次元で MMDT を上回り、追加の L₂ 正則化のおかげで分類精度が顕著に向上した。
• MMDTL2 の双対定式化により、主定式化と比較して合計計算時間が約 12 倍短縮され、最適化時間は 6396.84 秒から 0.060 秒に低下した。
• 特徴次元が十分に高い場合（M_S = M_T ≥ 256）、MMDTL2 はソースデータのみで 10 折り交差検証を実施したベースラインと同等の性能を達成した。
• 「ソースのみ」および「転送なし」の設定と比較して、MMDTL2 は限られたラベル付きデータで新しい内視鏡機器に適応する有効性を示した。
• 実世界の NBI 内視鏡画像を用いた検証で、古くからの内視鏡機器と新しい内視鏡機器間の画質や解像度の違いに起因するドメインシフトに対しても、MMDTL2 はロバストであることが確認された。
• 画像レベルの対応関係を必要とせずに、MMDTL2 は実臨床現場への導入に適した効果的な転移学習を可能にした。