[논문 리뷰] Predicting the Popularity of Online Videos via Deep Neural Networks

Yue Mao, Yi Shen외 2명|arXiv (Cornell University)|2017. 11. 29.

Complex Network Analysis Techniques참고 문헌 16인용 수 6

한 줄 요약

이 논문은 다중 작업 학습(MTL)과 관계 네트워크(RN)를 통합한 딥 네ural 네트워크 모델을 제안하여, 다양한 콘텐츠 제공자 간의 복잡한 특성 상호작용과 경쟁 관계를 모델링함으로써 온라인 TV 시리즈의 인기도를 예측한다. 이 모델은 예측 정확도를 향상시켜 출시 7일 전 예측 시 R²가 0.87에 도달하며, MTL 및 RN 모듈 모두에서 뚜렷한 성능 향상을 보였다.

ABSTRACT

Predicting the popularity of online videos is important for video streaming content providers. This is a challenging problem because of the following two reasons. First, the problem is both "wide" and "deep". That is, it not only depends on a wide range of features, but also be highly non-linear and complex. Second, multiple competitors may be involved. In this paper, we propose a general prediction model using the multi-task learning (MTL) module and the relation network (RN) module, where MTL can reduce over-fitting and RN can model the relations of multiple competitors. Experimental results show that our proposed approach significantly increases the accuracy on predicting the total view counts of TV series with RN and MTL modules.

연구 동기 및 목표

• 높은 경쟁성과 비선형 환경에서 온라인 영상 인기도, 특히 TV 시리즈의 인기도를 예측하는 데 도전하는 것.
• 낮은 샘플 수, 고차원 데이터에서 과적합을 방지하기 위해 다중 작업 학습을 정규화 기법으로 활용하는 것.
• 다양한 콘텐츠 제공자에서 나온 여러 TV 시리즈 간의 경쟁적 동력을 관계 네트워크를 통해 모델링하는 것.
• 딥 네럴 네트워크 프레임워크에 MTL과 RN을 통합하여 TV 시리즈의 총 시청 수 예측 정확도를 향상시키는 것.

제안 방법

• 모델은 특성 표현 및 비선형 모델링을 위해 딥 네럴 네트워크(DNN)를 백본으로 사용한다.
• 다중 작업 학습(MTL)은 작업 간 하드 파라미터 공유를 통해 적용되며, 메인 작업 및 보조 작업 손실을 학습 가능한 가중치를 사용해 조합한 총 손실 함수를 사용한다.
• 관계 네트워크(RN) 모듈은 대상 TV 시리즈와 경쟁 시리즈 간의 쌍별 관계를 계산하고, 이를 미분 가능한 함수를 통해 집계한다.
• RN 모듈은 주로 경쟁 시리즈가 대상 시리즈의 인기도에 미치는 영향을 모델링하도록 특별히 설계되었다.
• 전체 모델은 DNN, MTL, RN 모듈을 통합하며, 공동 학습을 통해 일반화 능력을 향상시키고 경쟁적 역학을 포착한다.
• 모델은 2017년 1월 1일 이전의 역사적 TV 시리즈 데이터로 훈련되고, 그 이후에 출시된 시리즈에 대해 평가된다.

실험 결과

연구 질문

• RQ1 제한된 데이터로 온라인 영상 인기도를 예측할 때 다중 작업 학습이 일반화 능력을 향상시키고 과적합을 줄이는 데 어떻게 기여하는가?
• RQ2 여러 TV 시리즈 간의 경쟁 관계를 모델링함으로써 예측 정확도는 어느 정도 향상되는가?
• RQ3 관계 네트워크가 경쟁 콘텐츠가 대상 시리즈의 인기도에 미치는 영향을 효과적으로 포착할 수 있는가?
• RQ4 MTL 및 RN 모듈을 통합한 모델은 TV 시리즈의 장기적 시청 수 예측에서 기준 모델에 비해 어떻게 비교되는가?

주요 결과

• 전체 모델(DNN+RN+MTL)은 TV 시리즈 출시 7일 전에 총 시청 수를 예측할 때 R²가 0.87을 기록하며, 기준 DNN 모델보다 뚜렷이 뛰어난 성능을 보였다.
• MTL 모듈을 추가함으로써 7일 예측 수준에서 R²가 0.03 향상되었으며, 이는 과적합을 줄이는 데 효과적임을 입증한다.
• DNN+MTL에 비해 RN 모듈을 추가함으로써 R²가 추가로 0.04 향상되었으며, 이는 경쟁 시리즈의 역학을 모델링하는 데서 유의미한 가치가 있음을 시사한다.
• 출시 180일 및 360일 전 예측에서도 전체 모델은 각각 R² 0.85를 유지하여 장기 예측 수준에서도 뛰어난 안정성을 보였다.
• 모든 예측 시간 프레임에서 DNN 및 DNN+MTL 기준 모델보다 일관되게 뛰어난 성능을 보이며, MTL과 RN의 상호보완적 이점이 확인되었다.