[論文レビュー] Predicting the Popularity of Online Videos via Deep Neural Networks

Yue Mao, Yi Shen+2 more|arXiv (Cornell University)|Nov 29, 2017

Complex Network Analysis Techniques参考文献 16被引用数 6

ひとこと要約

本稿では、マルチタスク学習（MTL）および関係ネットワーク（RN）を組み込んだ深層ニューラルネットワークモデルを提案し、複数のコンテンツプロバイダー間の競合関係や広範かつ複雑な特徴相互作用をモデル化することで、オンラインTVシリーズの人気を予測する。モデルは予測精度を向上させ、リリースの7日前に予測した際の決定係数R²が0.87に達し、MTLおよびRNモジュールの両方による顕著な向上効果を示した。

ABSTRACT

Predicting the popularity of online videos is important for video streaming content providers. This is a challenging problem because of the following two reasons. First, the problem is both "wide" and "deep". That is, it not only depends on a wide range of features, but also be highly non-linear and complex. Second, multiple competitors may be involved. In this paper, we propose a general prediction model using the multi-task learning (MTL) module and the relation network (RN) module, where MTL can reduce over-fitting and RN can model the relations of multiple competitors. Experimental results show that our proposed approach significantly increases the accuracy on predicting the total view counts of TV series with RN and MTL modules.

研究の動機と目的

• オンライン動画の人気予測、特に競合が激しく非線形的な環境下でのTVシリーズの人気予測という課題に取り組む。
• 低サンプル、高次元データにおける過学習を回避するため、マルチタスク学習を正則化手法として活用する。
• 複数のコンテンツプロバイダーに属する複数のTVシリーズ間の競合ダイナミクスを、関係ネットワークを用いてモデル化する。
• 深層ニューラルネットワークフレームワークにMTLとRNを統合することで、TVシリーズの総視聴回数の予測精度を向上させる。

提案手法

• 特徴表現および非線形モデリングのため、深層ニューラルネットワーク（DNN）をバックボーンとして使用する。
• マルチタスク学習（MTL）は、タスク間でパラメータを共有するハード共有方式を採用し、主タスクと補助タスクの損失を学習可能な重みを用いて結合した総損失関数を定義する。
• 関係ネットワーク（RN）モジュールは、ターゲットTVシリーズと競合シリーズのペアワイズ関係を計算し、微分可能関数を用いて関係を集約する。
• RNモジュールは、競合シリーズがターゲットシリーズの人気に与える影響を特にモデル化することを目的として設計されている。
• DNN、MTL、RNモジュールを統合したフルモデルは、共同学習により汎化性能を向上させるとともに、競合ダイナミクスを捉える。
• モデルは2017年1月1日以前の歴史的TVシリーズデータで学習され、その後にリリースされたシリーズに対して評価が行われた。

実験結果

リサーチクエスチョン

• RQ1 限られたデータでオンライン動画の人気を予測する際、マルチタスク学習はどのように一般化性能を向上させ、過学習を軽減するか？
• RQ2 複数のTVシリーズ間の競合関係をモデル化することで、予測精度はどの程度向上するか？
• RQ3 関係ネットワークは、競合コンテンツがターゲットシリーズの人気に与える影響を効果的に捉えることができるか？
• RQ4 MTLおよびRNモジュールを統合したモデルは、TVシリーズの長期的視聴回数予測において、ベースラインモデルに比べてどの程度優れているか？

主な発見

• フルモデル（DNN+RN+MTL）は、TVシリーズのリリース7日前に総視聴回数を予測した際、決定係数R²が0.87に達し、ベースラインDNNモデルを著しく上回った。
• MTLモジュールの追加により、7日予測のR²が0.03向上し、過学習の軽減効果が明確に示された。
• RNモジュールの導入により、DNN+MTLモデルに比べてR²がさらに0.04向上し、競合ダイナミクスのモデル化の価値が裏付けられた。
• リリースの180日および360日前においても、フルモデルはそれぞれR²が0.85を維持し、長期予測においても高い安定性を示した。
• 全予測期間において、DNNおよびDNN+MTLベースラインと比較して、本モデルは一貫して優れた性能を示しており、MTLとRNの相乗効果が確認された。