[論文レビュー] Data Augmentation with Manifold Exploring Geometric Transformations for Increased Performance and Robustness

Magdalini Paschali, Walter Simson+5 more|arXiv (Cornell University)|Jan 14, 2019

AI in cancer detection参考文献 18被引用数 13

ひとこと要約

本稿では、多様体を走査する幾何変換を用いて、医療画像における深層学習モデルの性能と頑健性を向上させるデータ拡張技術であるManiFool Augmentationを提案する。繰り返し最適化されたアフィン変換を用いて、画像を分類境界に近づけつつクラス多様体を保持することで、多様で境界に近い訓練サンプルを生成する。その結果、皮膚腫瘍およびマンモグラム分類タスクにおいて、最先端の精度と顕著に向上した頑健性を達成した。

ABSTRACT

In this paper we propose a novel augmentation technique that improves not only the performance of deep neural networks on clean test data, but also significantly increases their robustness to random transformations, both affine and projective. Inspired by ManiFool, the augmentation is performed by a line-search manifold-exploration method that learns affine geometric transformations that lead to the misclassification on an image, while ensuring that it remains on the same manifold as the training data. This augmentation method populates any training dataset with images that lie on the border of the manifolds between two-classes and maximizes the variance the network is exposed to during training. Our method was thoroughly evaluated on the challenging tasks of fine-grained skin lesion classification from limited data, and breast tumor classification of mammograms. Compared with traditional augmentation methods, and with images synthesized by Generative Adversarial Networks our method not only achieves state-of-the-art performance but also significantly improves the network's robustness.

研究の動機と目的

• 深層学習モデルの汎化性と頑健性を阻害する、限られた量で変動が大きい医療画像データセットの課題に対処する。
• クリーンなテストデータにおけるモデル性能を向上させるとともに、アフィンおよび射影変換を含むランダムな幾何変換に対する耐性を高める。
• 元のサンプルと変換されたサンプル間の測地線距離に基づく、分類器の定量的頑健性指標を確立する。
• クラス多様体の全域を走査する訓練サンプルを用いることで、異なるデータセット間でのモデル汎化性を向上させる。
• 異なるアーキテクチャとデータセットにおけるモデル頑健性の体系的評価を行い、従来測定されていなかった性能のばらつきを明らかにする。

提案手法

• ManiFoolにインspiredされたラインサーチ多様体走査アルゴリズムを用い、画像を誤分類するが元のクラス多様体上に留まるアフィン幾何変換を生成する。
• 誤分類を最大化する勾配方向に従って変換を繰り返し適用し、各ステップ後に訓練データ多様体上に射影する。
• 誤分類が発生した場合、元のクラス多様体上に存在する最後の有効な点に戻り、その変換されたサンプルをデータ拡張に使用する。
• 拡張されたサンプルが真のデータ多様体から出発することを保証し、分布シフトを回避するとともに、クラス固有の埋め込み学習を維持する。
• 元のサンプルと変換されたサンプル間の測地線距離を定量的頑健性指標として用い、式8により計算する。
• ランダム変換を用いて測地線距離（G）を増加させた際の頑健性を評価し、誤分類率を主な頑健性指標（式9）として用いる。

実験結果

リサーチクエスチョン

• RQ1 多様体を走査する幾何変換は、医療画像における深層学習モデルのクリーンなテストデータでの性能向上に寄与するか？
• RQ2 従来の拡張法やGANベースの拡張と比較して、ManiFool Augmentationはランダムなアフィンおよび射影変換に対するモデルの頑健性をどの程度向上させるか？
• RQ3 本手法は、H期10000のような未観測データセットでテストされた際の、データセット間汎化性にどのように影響を与えるか？
• RQ4 測地線距離に基づく定量的頑健性指標は、異なる深層学習アーキテクチャの頑健性を効果的に捉え、比較可能か？
• RQ5 モデルの頑健性は、異なる医療画像データセット間で顕著に異なるか、その差を定量化し、モデル選択に活用できるか？

主な発見

• ManiFool Augmentationで訓練されたモデルは、DermofitおよびDDSMデータセットで最先端の性能を達成し、従来の拡張法やGANベースの合成法を上回った。
• ランダムな幾何変換に対する頑健性が顕著に向上し、測地線距離が高くなる（G ≥ 5）状況では、ベースラインと比較して15–30%低い誤分類率を示した。
• データセット間評価では、未観測のHAM10000データセットに展開した際、1–5%高い精度を達成した。これは、汎化性の向上を示している。
• 提案された頑健性指標（測地線距離）により、モデルの頑健性がアーキテクチャやデータセットによって顕著に異なることが明らかになった。例えば、DermofitではInceptionV3が最も頑健であった一方、DDSMではResNet18が他を上回った。
• ManiFool Augmentationは、クラス多様体のグローバル境界を走査するサンプルを生成したのに対し、ランダム拡張は局所的領域に限定されていた。その結果、モデルの汎化性が向上した。
• 本手法は、分布シフトを引き起こさずに、トレーニングデータの露出のばらつきを効果的に増加させた。これは、一貫した性能向上と頑健性の向上によって裏付けられた。