[논문 리뷰] AutoLoss: Automated Loss Function Search in Recommendations

Xiangyu Zhao, Haochen Liu외 4명|arXiv (Cornell University)|2021. 06. 12.

Recommender Systems and Techniques참고 문헌 58인용 수 5

한 줄 요약

AutoLoss는 수렴 행동에 따라 각 데이터 예제별로 최적의 손실 가중치를 동적으로 할당하는 제어망을 사용하여 딥 추천 시스템에서 자동 손실 함수 탐색을 위한 엔드 투 엔드, 미분 가능한 프레임워크를 제안한다. AutoLoss는 고정 및 수작업으로 조정된 기준보다 추천 성능과 학습 효율성에서 뛰어나며, 다양한 데이터셋과 모델 간에 뛰어난 이식성(transferability)을 보인다.

ABSTRACT

Designing an effective loss function plays a crucial role in training deep recommender systems. Most existing works often leverage a predefined and fixed loss function that could lead to suboptimal recommendation quality and training efficiency. Some recent efforts rely on exhaustively or manually searched weights to fuse a group of candidate loss functions, which is exceptionally costly in computation and time. They also neglect the various convergence behaviors of different data examples. In this work, we propose an AutoLoss framework that can automatically and adaptively search for the appropriate loss function from a set of candidates. To be specific, we develop a novel controller network, which can dynamically adjust the loss probabilities in a differentiable manner. Unlike existing algorithms, the proposed controller can adaptively generate the loss probabilities for different data examples according to their varied convergence behaviors. Such design improves the model's generalizability and transferability between deep recommender systems and datasets. We evaluate the proposed framework on two benchmark datasets. The results show that AutoLoss outperforms representative baselines. Further experiments have been conducted to deepen our understandings of AutoLoss, including its transferability, components and training efficiency.

연구 동기 및 목표

• 딥 추천 시스템에서 고정 또는 수작업으로 조정된 손실 함수로 인해 발생하는 성능 저하와 비효율성을 해결하기 위해.
• 기존 방법들이 손실 가중치를 체계적으로 탐색함으로써 높은 계산 비용과 적응성 부족 문제를 해결하기 위해.
• 사용자-아이템 상호작용의 다양한 수렴 행동에 적응하는 동적이고 예제 기반의 손실 함수 선택을 가능하게 하기 위해.
• 다양한 딥 추천 아키텍처와 데이터셋 간의 모델 일반화 능력과 이식성을 향상시키기 위해.
• 모델 파라미터와 손실 함수 선택을 동시에 최적화하는 엔드 투 엔드, 미분 가능한 프레임워크를 개발하기 위해.

제안 방법

• 기본 지표와 모델 예측을 바탕으로 각 데이터 예제에 대해 연속적이고 미분 가능한 손실 가중치를 생성하는 새로운 제어망을 설계하였다.
• 이산 선택에도 불구하고 기울기 흐름을 가능하게 하기 위해 Gumbel-Softmax 재구성 기법을 적용하여 후보 손실 함수에 대한 하드 선택을 시뮬레이션하였다.
• 손실 함수 탐색을 연속 최적화 문제로 공식화하여 선택 과정을 통해 역전파가 가능하도록 하였다.
• 후보 손실 함수(MSE, MAE, 교차 엔트로피 등)는 학습된 예제 기반 가중치를 통해 가중합 손실로 조합되었다.
• 제어망은 추천 모델과 함께 엔드 투 엔드로 훈련되어 모델 및 손실 함수 파라미터를 동시에 최적화할 수 있도록 하였다.
• 학습된 적응형 손실 전략이 다양한 데이터셋과 모델 아키텍처 간에 일반화되도록 하여 이식성을 지원하였다.

Figure 1. Overview of the AutoLoss framework.

실험 결과

연구 질문

• RQ1 각 데이터 예제별로 동적으로 손실 함수를 선택하는 자동화된, 미분 가능한 프레임워크는 추천 성능 향상에 기여할 수 있는가?
• RQ2 AutoLoss는 고정 또는 수작업으로 조정된 손실 함수와 비교해 모델 정확도와 학습 효율성 측면에서 어떻게 성능을 냈는가?
• RQ3 학습된 손실 선택 전략은 다양한 딥 추천 모델과 데이터셋 간에 얼마나 일반화되는가?
• RQ4 데이터 예제의 다양한 수렴 행동이 적응형 손실 가중치의 효과성에 어떻게 영향을 미치는가?
• RQ5 각 구성 요소(예: 제어망, Gumbel-Softmax)가 전체 성능 향상에 기여하는 정도는 어떠한가?

주요 결과

• AutoLoss는 고정 및 수작업으로 조정된 손실 기준보다 두 개의 벤치마크 데이터셋에서 뛰어난 추천 성능을 달성하였다.
• 프레임워크는 개별 예제의 수렴 행동에 맞춰 손실 함수를 적응적으로 조정함으로써 노이즈가 많은 기울기를 줄여 학습 효율성을 향상시켰다.
• AutoLoss는 제어망을 재학습하지 않고도 다양한 딥 추천 모델과 데이터셋에 적용해도 성능 향상을 유지함으로써 강력한 이식성을 보였다.
• 제거 실험을 통해 제어망 네트워크와 Gumbel-Softmax 기반 선택 메커니즘이 성능 향상에 필수적임을 확인하였다.
• 손실 가중치의 수작업 하이퍼파라미터 조정이 줄어들어 실세계 추천 시스템에 적용 가능한 확장 가능한 솔루션을 제공하였다.
• 특히 복잡하거나 모호한 수렴 패턴을 보이는 예제에서 데이터 기반 손실 가중치 학습으로 인해 더 나은 일반화 능력을 확보할 수 있었다.

Figure 2. Architectures of DeepFM and IPNN.