[논문 리뷰] A network-based transfer learning approach to improve sales forecasting of new products

Tristan Karb, Niklas Kühl외 2명|arXiv (Cornell University)|2020. 05. 13.

Forecasting Techniques and Applications인용 수 12

한 줄 요약

이 논문은 역사적 데이터가 제한된 신제품의 판매 예측 정확도를 향상시키기 위해 사전 훈련된 딥 네ural 네트워크를 활용한 네트워크 기반 전이학습 접근법을 제안한다. 유사한 등재 제품, 특히 동일한 가격 클러스터에 속한 제품들로부터 지식을 전이함으로써 예측 오차를 크게 감소시키고, 훈련 데이터가 제한된 상황에서 예상치 못한 프로모션 기간 동안 성능을 햖थ한다. 이는 전이학습을 사용하지 않은 표준 모델보다 뛰어난 성능을 발휘한다.

ABSTRACT

Data-driven methods -- such as machine learning and time series forecasting -- are widely used for sales forecasting in the food retail domain. However, for newly introduced products insufficient training data is available to train accurate models. In this case, human expert systems are implemented to improve prediction performance. Human experts rely on their implicit and explicit domain knowledge and transfer knowledge about historical sales of similar products to forecast new product sales. By applying the concept of Transfer Learning, we propose an analytical approach to transfer knowledge between listed stock products and new products. A network-based Transfer Learning approach for deep neural networks is designed to investigate the efficiency of Transfer Learning in the domain of food sales forecasting. Furthermore, we examine how knowledge can be shared across different products and how to identify the products most suitable for transfer. To test the proposed approach, we conduct a comprehensive case study for a newly introduced product, based on data of an Austrian food retailing company. The experimental results show, that the prediction accuracy of deep neural networks for food sales forecasting can be effectively increased using the proposed approach.

연구 동기 및 목표

• 식품 소매 분야에서 신제품의 판매 예측 정확도가 낮은 이유가 훈련 데이터가 부족하기 때문이라는 문제를 해결하기 위해.
• 딥 네럴 네트워크를 활용한 전이학습 프레임워크를 개발하고 평가하여 전문가 지식 전이를 모방하기 위해.
• 제품 유사도, 특히 가격 기반 클러스터링을 기반으로 어떤 소스 제품이 지식 전이에 가장 적합한지 규명하기 위해.
• 훈련 데이터가 제한된 상황에서 예측 모델의 강건성을 높여 예측 불가능한 사건(예: 프로모션)을 효과적으로 다룰 수 있도록 하기 위해.
• 오스트리아의 한 식품 소매업체를 대상으로 실세계 사례 연구를 통해 제안된 접근법을 검증하기 위해.

제안 방법

• 유사한 등재 제품의 역사를 기반으로 딥 네럴 네트워크(DNN)를 사전 훈련하여 소스 도메인으로 활용한다.
• 소스 제품의 훈련 데이터를 기반으로 사전 훈련된 DNN의 레이어를 미세 조정함으로써 전이학습을 적용하고, 학습된 특징을 공유한다.
• 제품들을 유사도 클러스터(저가, 중가, 고가)로 분류하여 가장 전이 가능한 소스 도메인을 식별한다.
• 다양한 소스 클러스터에서 훈련된 DNN을 조합하여 앙상블 모델을 구성하고, 시간대별 및 프로모션 이벤트 기간 동안 성능을 평가한다.
• 전이학습 모델(ENS_TL_models)과 전이학습 없이 훈련된 기준 모델(w/o_TL) 간의 성능을 여러 평가 지표에 따라 비교한다.
• 특히 초기 주간 및 프로모션 이벤트 기간 동안 시간에 따라 성능을 평가하여 일반화 능력과 편향 감소 효과를 측정한다.

실험 결과

연구 질문

• RQ1 전이학습은 제한된 데이터로 신제품 판매 예측에 대해 딥 네럴 네트워크의 예측 정확도를 어떻게 향상시키는가?
• RQ2 어느 소스 제품이 지식 전이에 가장 적합한가? 그리고 이 맥락에서 제품 유사도는 어떻게 효과적으로 측정할 수 있는가?
• RQ3 여러 소스 모델을 조합한 앙상블 전략은 단일 모델 전이보다 예측 강건성을 향상시키는가?
• RQ4 전이학습 접근법은 표준 모델 대비 예상치 못한 프로모션 이벤트 기간에 어떻게 성능을 발휘하는가?
• RQ5 특히 가격 유사도 기반으로 소스 도메인을 선택할 경우, 지식 전이의 성공에 영향을 미치는가?

주요 결과

• ENS_TL_models는 전이학습 없이 훈련된 기준 모델(w/o_TL)에 비해 전반적인 예측 정확도에서 뚜렷한 우월성을 보였다.
• 대상 제품과 동일한 가격 클러스터(중가)에 속한 소스 제품을 기반으로 훈련된 앙상블 모델이 모든 평가 기간 동안 가장 뛰어난 성능을 보였다.
• 초기 주간에 프로모션 데이터 비중이 낮은 ENS_TL_model의 성능은 프로모션 데이터 비중이 높은 앙상블 모델에 비해 뚜렷하게 열 劣했다.
• 전이학습은 예측 분산을 감소시키고, 특히 첫 번째 프로모션 이벤트 기간 동안 훈련 데이터의 편향을 더 잘 다루는 데 기여했다.
• 전이학습을 적용한 모델은 프로모션 주간과 비프로모션 주간 모두에서 일관되게 뛰어난 성능을 보였으며, 데이터 부족성과 예측 불가능한 이벤트에 대한 강건성을 입증했다.
• 결과적으로 유사 제품, 특히 유사 가격대를 가진 제품들로부터의 지식 전이는 인간 전문가의 예측을 효과적으로 대체하거나 보완할 수 있음을 확인했다.