[논문 리뷰] Meta-Learning Initializations for Image Segmentation

Sean M. Hendryx, Andrew Leach외 2명|arXiv (Cornell University)|2019. 12. 13.

Domain Adaptation and Few-Shot Learning참고 문헌 37인용 수 6

한 줄 요약

이 논문은 고차원적이고 비대칭적인 파rameter 공간을 가진 소수의 예제 이미지 세그멘테이션에 대해 일阶 모델-의존적 메타러닝(FOMAML 및 Reptile)을 확장하기 위해 효율적인 랩(EfficientLab)을 도입함으로써, 테스트 시 적응 하이퍼파ram터를 베이지안 최적화를 통해 튜닝하면서 FSS-1000에서 최고 성능을 달성한다. 또한, 10개 이상의 레이블된 예제가 존재할 경우 기존의 전이 학습 방식을 초월하는 메타학습 초기화가 가능하다는 것을 보여준다.

ABSTRACT

We extend first-order model agnostic meta-learning algorithms (including FOMAML and Reptile) to image segmentation, present a novel neural network architecture built for fast learning which we call EfficientLab, and leverage a formal definition of the test error of meta-learning algorithms to decrease error on out of distribution tasks. We show state of the art results on the FSS-1000 dataset by meta-training EfficientLab with FOMAML and using Bayesian optimization to infer the optimal test-time adaptation routine hyperparameters. We also construct a small benchmark dataset, FP-k, for the empirical study of how meta-learning systems perform in both few- and many-shot settings. On the FP-k dataset, we show that meta-learned initializations provide value for canonical few-shot image segmentation but their performance is quickly matched by conventional transfer learning with performance being equal beyond 10 labeled examples. Our code, meta-learned model, and the FP-k dataset are available at https://github.com/ml4ai/mliis .

연구 동기 및 목표

• 소수의 예제 이미지 세그멘테이션과 같은 고차원적이고 비대칭적인 파rameter 공간을 가진 조밀한 예측 작업에 일阶 MAML 유형 알고리즘이 효과적으로 확장될 수 있는지 조사하는 것.
• 테스트 시 적응 절차의 하이퍼파라미터에 대한 메타학습 초기화 성능의 민감도를 평가하는 것.
• 기존 학습이 메타학습 초기화를 초월하는 소수의 예제 수를 결정하는 것.
• 소수의 예제와 많은 예제의 두 영역에서 메타학습 성능를 실증적으로 분석하기 위한 새로운 벤치마크 데이터셋 FP-k를 구축하는 것.
• 소수의 예제에서 많은 예제로의 스케일링이 가능한 통합 학습 시스템을 제공함으로써 복수의 모델이나 복잡한 앙상블이 필요 없도록 하는 것.

제안 방법

• 이미지 세그멘테이션에서 효율적인 메타학습을 위해 특별히 설계된 경량이며 빠른 학습이 가능한 신경망 아키텍처인 EfficientLab를 제안한다.
• 일阶 MAML 및 Reptile 알고리즘을 정밀한 출력을 가지는 의미적 이미지 세그멘테이션의 고차원적이고 밀도 높은 설정에 적응시킨다.
• 메타학습 이후에 테스트 시 적응 절차의 최적 하이퍼파라미터(학습률, 조기 정지 내성)를 찾기 위해 베이지안 최적화를 활용한다.
• 적응 절차 최적화를 안내하기 위해 메타학습에서의 테스트 오차를 공식적으로 정의한다.
• 소수의 예제와 많은 예제의 두 영역에서 성능를 평가하기 위해 5개의 작업을 포함하고 각 작업당 420개의 레이블된 예제를 가진 FP-k 벤치마크 데이터셋을 구축한다.
• 일반화 성능 향상을 위해 표준 대규모 데이터 학습과 일관되게 학습된 통계와 인구 추정치를 사용한 배치 정규화를 사용한다.

실험 결과

연구 질문

• RQ1 일阶 MAML 유형 알고리즘이 소수의 예제 이미지 세그멘테이션의 고차원적 파arameter 공간과 비대칭적인 데이터 분포에 효과적으로 확장될 수 있는가?
• RQ2 메타학습 초기화의 테스트 시 성능가 적응 절차의 하이퍼파라미터에 얼마나 민감한가?
• RQ3 소수의 예제 세그멘테이션 정확도 측면에서, SGD로의 기존 미세조정이 메타학습 초기화를 초월하는 데 필요한 레이블된 예제의 수는 어느 정도인가?
• RQ4 단일 메타학습 초기화가 소수의 예제와 많은 예제의 두 환경 모두에 효과적으로 일반화될 수 있는가?
• RQ5 일반화를 최적화하는 적합한 적응 절차 설정이 존재하는가? 그리고 이 설정은 메타학습 시 사용된 설정과 다를까?

주요 결과

• 제안된 EfficientLab 모델은 FOMAML 메타학습과 베이지안 최적화된 적응 하이퍼파라미터를 통해 FSS-1000 데이터셋에서 최고의 평균 IoU 성능을 달성한다.
• 클래스당 10개 이하의 레이블된 예제가 존재할 경우, 메타학습 초기화가 ImageNet 및 공동 학습 초기화를 능가한다.
• 10개 이상의 레이블된 예제가 존재할 경우, 메타학습 초기화의 성능가 기존의 전이 학습 접근법을 matching하거나 초월한다.
• 테스트 시 적응 절차의 최적 하이퍼파라미터(예: 학습률, 조기 정지 내성)는 메타학습 시 사용된 것과 다름을 보여주며, 별도의 최적화가 필요함을 시사한다.
• 연구는 적응 절차의 하이퍼파라미터가 성능에 매우 민감하며, 특히 분포 외 일반화에 있어 조기 정지 내성이 특히 중요한 요소임을 드러낸다.
• 이론적 및 실증적 분석을 통해 MAML 유형 알고리즘이 고정된 업데이트 루틴에 대해 경험적 리스크를 최소화하지만, 해당 루틴의 하이퍼파라미터를 내재적으로 최적화하지는 않는다는 점을 확인한다.