[論文レビュー] Deep Bayesian Multi-Target Learning for Recommender Systems

Qi Wang, JI Zhi-hui+2 more|arXiv (Cornell University)|Feb 25, 2019

Domain Adaptation and Few-Shot Learning参考文献 11被引用数 4

ひとこと要約

本稿では、複数の推薦ターゲット間の因果関係を明示的に捉えるためにベイジアンネットワークを用いる、Deep Bayesian Multi-Target Learning (DBMTL) というフレームワークを提案する。深層ニューラルネットワークを用いてターゲット間の有向依存関係を学習することで、CTR、コンversion率、ユーザーエンゲージメントを含む多様な指標において、タオバオのライブストリーミングデータ上でのオフラインおよびオンラインA/Bテストにおいて、従来のMTLおよびシングルターゲットモデルを上回る性能を発揮する。

ABSTRACT

With the increasing variety of services that e-commerce platforms provide, criteria for evaluating their success become also increasingly multi-targeting. This work introduces a multi-target optimization framework with Bayesian modeling of the target events, called Deep Bayesian Multi-Target Learning (DBMTL). In this framework, target events are modeled as forming a Bayesian network, in which directed links are parameterized by hidden layers, and learned from training samples. The structure of Bayesian network is determined by model selection. We applied the framework to Taobao live-streaming recommendation, to simultaneously optimize (and strike a balance) on targets including click-through rate, user stay time in live room, purchasing behaviors and interactions. Significant improvement has been observed for the proposed method over other MTL frameworks and the non-MTL model. Our practice shows that with an integrated causality structure, we can effectively make the learning of a target benefit from other targets, creating significant synergy effects that improve all targets. The neural network construction guided by DBMTL fits in with the general probabilistic model connecting features and multiple targets, taking weaker assumption than the other methods discussed in this paper. This theoretical generality brings about practical generalization power over various targets distributions, including sparse targets and continuous-value ones.

研究の動機と目的

• 複数のパフォーマンス指標（例：CTR、滞在時間、コンversion）をバランスさせる必要がある、eコマース推薦システムにおけるマルチターゲット最適化の課題に対処すること。
• 共有または独立したターゲットを仮定するが因果的依存関係をモデル化しない従来のマルチタスク学習（MTL）フレームワークの限界を克服すること。
• スパースおよび連続値ターゲットを含む多様なターゲットタイプに一般化可能な統一された確率的フレームワークを構築すること。
• 深層ニューラルネットワークに因果構造学習を統合することで、相関するターゲット間の連携を向上させ、モデルの一般化性能を向上させること。
• DBMTLがタオバオライブストリーミングでの実世界の展開において、ベースラインのMTLおよび非MTLモデルを大きく上回ることを実証すること。

提案手法

• ターゲットイベントをベイジアンネットワークのノードとしてモデル化し、有向エッジをデータから学習された因果関係として定義する。
• ターゲットノードの条件付き確率分布を深層ニューラルネットワーク層でパrameter化することで、特徴量-ターゲットおよびターゲット-ターゲット間の依存関係をエンドツーエンドで学習可能にする。
• 最適なベイジアンネットワーク構造を決定するためにモデル選択を用い、自然な因果順序（例：CTR → 他の行動）と、エントロピーの高いターゲットを親ノードとして優先する。
• 共有の深層ニューラルネットワークからの特徴表現とターゲット固有のヘッドを統合し、複数の目的関数を同時に最適化可能にする。
• ベイジアンネットワークの条件付き独立性仮定を尊重するように、結合尤度関数を用いてモデルを学習する。
• 重み共有と構造正則化を適用することで、特にスパースターゲットにおいて、密度の高い補助的ターゲットからの情報を活用し、一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 複数の推薦ターゲット間の明示的な因果関係をモデル化することで、標準的なMTLアプローチと比較して、多様な指標における性能向上が達成できるか？
• RQ2 ベイジアンネットワークの構造、特に因果リンクの方向性が、マルチターゲット学習におけるモデル性能に与える影響はいかほどか？
• RQ3 DBMTLは、二値（例：クリック、コンバージョン）および連続値（例：ユーザーリンクタイム）ターゲットを含む、さまざまなターゲットタイプにどの程度一般化可能か？
• RQ4 因果構造の統合により、とくにスパースまたはエントロピーが低いターゲットにおいて、ターゲット間の連携が向上するか？
• RQ5 提案されたフレームワークは、ESMM やバニラMTL などの既存のMTLモデルを、実世界のオンライン推薦システムで上回ることができるか？

主な発見

• タオバオライブストリーミングでの2週間のA/Bテストにおいて、DBMTLはバニラMTLと比較して、オンラインCTRで4.41%、CGRで3.06%、CFRで2.91%、CLRで10.23%、CCRで5.95%、ASTで4.99%の相対的改善を達成した。
• 自然な因果構造（CTR → 他の行動）が、すべての指標で最良の性能を示し、現実世界の因果順序を尊重することで学習効率が向上することを確認した。
• DBMTLはESMMに比べてCTR-AST（連続値ターゲット）のケースで顕著に優れており、異なるターゲット分布にわたる一般化能力を実証した。
• エントロピーがより高い（正例/負例の比率がよりバランスの取れた）ターゲットが、ベイジアンネットワークにおいて親ノードとして優れた性能を発揮した。これは、高エントロピー親ノードを優先する設計原理の妥当性を裏付けた。
• スパースターゲット（例：CFR）に対して、密度の高い非スパースターゲット（例：CTR）からの情報を活用することで、DBMTLは顕著な性能向上を示した。これは、補助信号統合の利点を確認するものであった。
• スパース、二値、連続値ターゲットを含む多様なターゲットタイプにおいて、DBMTLの性能は、仮定が少なく柔軟な確率的定式化のおかげで、安定的かつ強固であった。