[논문 리뷰] Sales Forecast in E-commerce using Convolutional Neural Network

Kui Zhao, Can Wang|arXiv (Cornell University)|2017. 08. 26.

Time Series Analysis and Forecasting참고 문헌 19인용 수 33

한 줄 요약

이 논문은 원시 전자상거래 로그 데이터에서 수동 특징 공학 없이도 자동으로 판매 예측 특징을 학습하는 CNN 기반 접근법을 제안한다. 구조화된 로그 데이터를 데이터 프레임으로 변환하고 CNN를 적용함으로써, 실제 CaiNiao.com 데이터셋에서 우수한 예측 정확도를 달성한다. 특히 샘플 무게 감쇠 및 전이 학습을 통한 성능 향상이 두드러진다.

ABSTRACT

Sales forecast is an essential task in E-commerce and has a crucial impact on making informed business decisions. It can help us to manage the workforce, cash flow and resources such as optimizing the supply chain of manufacturers etc. Sales forecast is a challenging problem in that sales is affected by many factors including promotion activities, price changes, and user preferences etc. Traditional sales forecast techniques mainly rely on historical sales data to predict future sales and their accuracies are limited. Some more recent learning-based methods capture more information in the model to improve the forecast accuracy. However, these methods require case-by-case manual feature engineering for specific commercial scenarios, which is usually a difficult, time-consuming task and requires expert knowledge. To overcome the limitations of existing methods, we propose a novel approach in this paper to learn effective features automatically from the structured data using the Convolutional Neural Network (CNN). When fed with raw log data, our approach can automatically extract effective features from that and then forecast sales using those extracted features. We test our method on a large real-world dataset from CaiNiao.com and the experimental results validate the effectiveness of our method.

연구 동기 및 목표

• 기존의 시계열 분석 방법과 수동 특징 공학의 한계를 해결한다.
• 원시 구조화된 로그 데이터에서 직접 효과적인 표현을 학습하는 엔드 투 엔드 딥 러닝 모델을 개발한다.
• 합성곱 신경망을 활용한 자동 특징 학습을 통해 예측 정확도를 향상시킨다.
• 샘플 무게 감쇠와 전이 학습을 통합하여 모델 성능을 추가로 향상시킨다.
• 새로운 데이터에 최소한의 인간 간섭으로 적응 가능한 확장성 있고 재사용 가능한 예측 프레임워크를 구축한다.

제안 방법

• 원시 전자상거래 로그 데이터(예: PV, UV, PAY, GMV) 및 상품 특성 정보를 모델 입력을 위한 구조화된 데이터 프레임으로 변환한다.
• 시간적 및 공간적 패턴에서 계층적이고 효과적인 특징을 자동으로 추출하기 위해 데이터 프레임에 합성곱 신경망(CNN)을 적용한다.
• 추출된 특징을 기반으로 미래 판매를 예측하기 위해 완전 연결층과 회귀 헤드를 사용한다.
• 예측 대상 간격에 가까운 훈련 샘플을 우선시하기 위해 샘플 무게 감쇠를 구현함으로써 단기 예측 정확도를 향상시킨다.
• 다른 지역이나 상품 간 지식을 전이하기 위해 전이 학습을 적용하여 일반화 능력과 성능을 향상시킨다.
• CaiNiao.com의 대규모 실세계 데이터셋에서 평균 제곱오차(MSE)를 손실 함수로 사용하여 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 CNN 기반 모델이 원시 구조화된 전자상거래 로그 데이터에서 효과적인 특징을 자동으로 학습하여 기존의 시계열 분석 방법과 수동으로 공학된 특징보다 우수한 성능을 내는가?
• RQ2 입력 데이터 프레임의 길이(즉, 이전 기간)가 예측 성능과 모델의 강건성에 어떤 영향을 미치는가?
• RQ3 샘플 무게 감쇠와 전이 학습이 예측 정확도와 일반화 능력 향상에 얼마나 기여하는가?
• RQ4 여러 지역에 대해 통합된 모델을 훈련시키는 것은 가능한가? 그리고 지역별 모델과 비교해 볼 때 어떤가?
• RQ5 예측 간격의 길이와 정확도 사이의 상충 관계는 무엇이며, 이는 비즈니스 의사결정의 유연성에 어떤 영향을 미치는가?

주요 결과

• 제안된 CNN 기반 방법은 기존의 시계열 모델(예: ARIMA)과 기울기 부스팅 기반 특징 공학(FE+GBRT)보다 뛰어난 성능을 보이며, 특히 복잡한 비선형 판매 패턴을 잘 포착한다.
• β = 0.02로 설정한 샘플 무게 감쇠를 통해 장기적·단기적 패턴 학습 간 균형을 이루었으며, 이로 인해 예측 안정성과 정확도가 향상되었다.
• 전이 학습을 적용함으로써 모델 성능이 추가로 향상되었으며, 이는 다양한 상품이나 지역 간 지식 전이의 효과를 입증한다.
• 샘플 무게 감쇠와 전이 학습을 모두 적용한 모델가 가장 경쟁력 있는 성능을 보였으며, CaiNiao.com 데이터셋에서 뛰어난 강건성과 정확도를 확보했다.
• 더 긴 예측 간격은 판매의 안정성이 높아 예측이 더 용이하지만, 짧은 간격은 운영 유연성을 제공하므로 실세계 응용에서 중요한 상충 관계를 드러낸다.
• 모든 지역 데이터를 통합해 훈련한 통합 모델는 지역별 모델보다 성능이 열등하여, 현지 패턴은 맞춤형 훈련을 통해 더 잘 포착됨을 시사한다.