[논문 리뷰] Data Augmentation with Manifold Exploring Geometric Transformations for Increased Performance and Robustness

Magdalini Paschali, Walter Simson외 5명|arXiv (Cornell University)|2019. 01. 14.

AI in cancer detection참고 문헌 18인용 수 13

한 줄 요약

이 논문은 만료된 기하 변환를 활용하여 분류 경계에 가까운 다양하고 안정적인 훈련 샘플을 생성함으로써 의료 영상에서 딥러닝 모델의 성능과 강건성을 향상시키는 데이터 증강 기법인 ManiFool Augmentation을 제안한다. 반복적으로 최적화된 애핀 변환을 적용함으로써 이미지를 분류 경계 쪽으로 이동시키면서도 클래스 만료를 유지함으로써, 상태의 최고 성능과 상당한 강건성 향상을 이룬다. 피부 병변 및 유방촬영 영상 분류 과제에서 입증되었다.

ABSTRACT

In this paper we propose a novel augmentation technique that improves not only the performance of deep neural networks on clean test data, but also significantly increases their robustness to random transformations, both affine and projective. Inspired by ManiFool, the augmentation is performed by a line-search manifold-exploration method that learns affine geometric transformations that lead to the misclassification on an image, while ensuring that it remains on the same manifold as the training data. This augmentation method populates any training dataset with images that lie on the border of the manifolds between two-classes and maximizes the variance the network is exposed to during training. Our method was thoroughly evaluated on the challenging tasks of fine-grained skin lesion classification from limited data, and breast tumor classification of mammograms. Compared with traditional augmentation methods, and with images synthesized by Generative Adversarial Networks our method not only achieves state-of-the-art performance but also significantly improves the network's robustness.

연구 동기 및 목표

• 딥러닝 모델의 일반화 및 강건성 향상에 장애가 되는 제한적이고 고변동성이 큰 의료 영상 데이터셋 문제를 해결한다.
• 정상 테스트 데이터에서의 모델 성능 향상을 도모하면서 동시에 무작위 기하 변환(애핀 및 투사)에 대한 내성을 높인다.
• 원본 샘플과 변환된 샘플 간의 지오데식 거리를 기반으로 한 분류기의 정량적 강건성 지표를 개발한다.
• 클래스 만료의 전반적인 범위를 탐색하는 증강 샘플을 통해 모델의 일반화 능력을 향상시킨다.
• 다양한 아키텍처와 데이터셋에서의 모델 강건성에 대한 체계적 평가를 제공하여 이전에 측정되지 않은 성능 변동성을 드러낸다.

제안 방법

• ManiFool의 영감을 얻은 선 탐색 만료 탐색 알고리즘을 활용하여, 원래의 클래스 만료에 머무르면서 이미지를 잘못 분류하는 애핀 기하 변환를 생성한다.
• 오차가 발생할 경우 각 단계 후에 기존 데이터 만료에 투영하는 방식으로, 오차를 최대화하는 기울기 방향을 따라 반복적으로 변환을 적용한다.
• 잘못 분류가 발생하면 이전에 유효한 원본 클래스 만료 상의 점으로 되돌아가며, 그 변환된 샘플을 데이터 증강에 활용한다.
• 증강된 샘플이 진정한 데이터 만료에서 유래하도록 보장함으로써 분포 이탈을 방지하고 클래스 특화 임bedding 학습을 유지한다.
• 원본 샘플과 변환된 샘플 간의 지오데식 거리를 정량적 강건성 지표로 사용하며, 이를 식 8을 통해 계산한다.
• 무작위 변환을 사용하여 증가하는 지오데식 거리(G)에 대해 강건성을 평가하며, 주요 강건성 지표로 오차율을 사용한다(식 9).

실험 결과

연구 질문

• RQ1 만료 탐색 기하 변환를 통해 의료 영상에서 정상 테스트 데이터에서의 딥러닝 모델 성능 향상이 가능할까?
• RQ2 기존의 증강 기법과 GAN 기반 증강 대비 ManiFool Augmentation가 무작위 애핀 및 투사 변환에 대해 얼마나 강건성을 향상시키는가?
• RQ3 제안된 방법은 새로운 데이터셋(예: HAM10000)에서 테스트할 때 교차 데이터셋 일반화에 어떤 영향을 미치는가?
• RQ4 지오데식 거리 기반 정량적 강건성 지표가 다양한 딥러닝 아키텍처의 강건성을 효과적으로 측정하고 비교하는 데 유용한가?
• RQ5 모델의 강건성은 다양한 의료 영상 데이터셋 간에 상당한 차이를 보이며, 이를 정량화하고 모델 선택에 활용할 수 있는가?

주요 결과

• ManiFool Augmentation로 훈련된 모델은 Dermofit 및 DDSM 데이터셋에서 기존 증강 기법과 GAN 기반 합성 기법을 능가하는 최고 수준의 성능을 달성했다.
• 무작위 기하 변환에 대한 강건성이 상당히 향상되었으며, 고지오데식 거리(G ≥ 5)에서 ManiFool로 훈련된 모델은 기준 모델 대비 15–30% 낮은 오차율을 보였다.
• 교차 데이터셋 평가에서, ManiFool Augmentation로 훈련된 모델은 예측되지 않은 HAM10000 데이터셋에 배포되었을 때 1–5% 높은 정확도를 기록하여 일반화 능력 향상을 입증했다.
• 제안된 강건성 지표(지오데식 거리)는 아키텍처 및 데이터셋 간 강건성의 상당한 차이를 드러내었으며, 예를 들어 Dermofit에서는 InceptionV3가 가장 강건했고, DDSM에서는 ResNet18가 다른 모델들을 능가했다.
• ManiFool Augmentation는 무작위 증강이 국소적으로 국한되는 것과 달리 클래스 만료의 전반적인 경계를 탐색하는 샘플을 생성하여 더 나은 모델 일반화를 이끌었다.
• 이 방법은 분포 이탈 없이 훈련 데이터 노출의 분산을 효과적으로 증가시켰으며, 일관된 성능 향상과 강건성 향상으로 이를 확인했다.