[논문 리뷰] AM-LFS: AutoML for Loss Function Search

Chuming Li, Xin Yuan외 5명|arXiv (Cornell University)|2019. 05. 17.

Advanced Image and Video Retrieval Techniques참고 문헌 44인용 수 13

한 줄 요약

AM-LFS는 이미지 분류, 얼굴 인식, 개인 재식별 벤치마크에서 아키텍처 변경 없이 최상의 성능을 달성하기 위해, 유명한 손실 함수를 포함하는 통합 검색 공간을 활용해 훈련 중 최적의 손실 함수를 탐색하는 AutoML 프레임워크를 제안한다. 이는 REINFORCE 기반 강화학습을 사용하며, 이중 최적화를 통해 손실 함수 매개변수를 동적으로 최적화한다.

ABSTRACT

Designing an effective loss function plays an important role in visual analysis. Most existing loss function designs rely on hand-crafted heuristics that require domain experts to explore the large design space, which is usually sub-optimal and time-consuming. In this paper, we propose AutoML for Loss Function Search (AM-LFS) which leverages REINFORCE to search loss functions during the training process. The key contribution of this work is the design of search space which can guarantee the generalization and transferability on different vision tasks by including a bunch of existing prevailing loss functions in a unified formulation. We also propose an efficient optimization framework which can dynamically optimize the parameters of loss function's distribution during training. Extensive experimental results on four benchmark datasets show that, without any tricks, our method outperforms existing hand-crafted loss functions in various computer vision tasks.

연구 동기 및 목표

• 수작업으로 만든 손실 함수의 한계를 해결하기 위해, 이는 최적화되지 않으며 시간이 오래 걸리고 작업에 특화되어 있다.
• 다양한 시각 작업에 적용 가능한 일반화 가능하고 이식 가능한 손실 함수 검색 공간을 개발하기 위해.
• 훈련 중에 네트워크 및 손실 함수 매개변수를 동시에 최적화할 수 있는 효율적인 이중 최적화 프레임워크를 설계하기 위해.
• 재학습 없이도 동적 손실 함수 적응을 통해 모델의 분류 성능을 향상시키는 종단간 훈련을 가능하게 하기 위해.

제안 방법

• 검색 공간은 기존의 손실 함수(예: 소프트맥스, 마진 기반, 포칼 손실 등)를 예측의 난이도에 따라 기울기를 조정하는 매개변수화된 형태로 통합한다.
• 손실 함수 매개변수는 미분 가능한 확률 분포로 모델링되어, REINFORCE를 통한 기울기 기반 최적화가 가능하다.
• 이중 최적화 프레임워크를 사용한다: 내부 루프는 네트워크 가중치에 대해 샘플된 손실을 최소화하고, 외부 루프는 검증 성능(예: 정확도, mAP)을 손실 분포 매개변수에 대해 최대화한다.
• 예측의 난이도에 따라 예측을 간격으로 할당하고, 각 간격에 대해 매개변수를 최적화함으로써 내부 클래스 간 거리와 외부 클래스 간 거리의 균형을 동적으로 조절한다.
• 프레임워크는 종단간 훈련이 가능하며 아키텍처 수정 없이도 적용 가능하므로 기존 모델에 즉시 통합할 수 있다.
• 분포 매개변수 수렴를 모니터링함으로써 훈련 안정성을 확보하고, 노이즈가 많은 보상 추적을 방지한다.

실험 결과

연구 질문

• RQ1 다양한 시각 작업에서 최첨단 손실 함수를 효과적으로 표현할 수 있는 통합적이고 매개변수화된 검색 공간이 가능한가?
• RQ2 손실 함수 탐색을 기울기 기반 강화학습 문제로 어떻게 공식화할 수 있으며, 이는 훈련 중 동적 최적화를 가능하게 하는가?
• RQ3 제안된 이중 최적화 프레임워크는 수작업으로 만든 손실 함수에 비해 더 나은 일반화 및 이식 가능성을 제공하는가?
• RQ4 성능 및 효율성에 최적화된 검색 공간 하이퍼파라미터(예: 간격 수, 배치 크기)의 구성은 무엇인가?

주요 결과

• AM-LFS는 아키텍처 변경 없이도 CIFAR-10, MegaFace, Market-1501, DukeMTMC-reID에서 수작업으로 만든 손실 함수를 초월해 최상의 성능을 달성했다.
• Market-1501에서 AM-LFS는 B=32일 때 84.4% mAP를 기록하여 기준 모델인 SphereReID를 능가했다.
• DukeMTMC-reID에서 AM-LFS는 B=32일 때 69.8% mAP를 달성하여 데이터셋 간 강력한 이식 가능성을 입증했다.
• 최적의 간격 수(M)는 6로 확인되었으며, M=3일 경우 과도하게 낮은 해상도로 인해 성능이 열악했고, M=10일 경우 최적화 불안정성이 발생했다.
• 기울기 시각화 결과, AM-LFS는 쉬운 예측(내부 클래스 거리가 낮음)에 대해 기울기를 감소시키고 더 많은 주의를 어려운 예측에 기울여 외부 클래스 간 분류 성능을 향상시켰다.
• 수렴 분석 결과, 분포 매개변수가 에포크 수에 따라 안정화되어 손실 함수 분포의 신뢰성 있는 최적화가 이루어졌음을 확인했다.