[論文レビュー] EdgeRec: Recommender System on Edge in Mobile Taobao

Yu Gong, Ziwen Jiang+5 more|arXiv (Cornell University)|May 18, 2020

Recommender Systems and Techniques参考文献 30被引用数 12

ひとこと要約

EdgeRecは、淘寶のモバイルエッジデバイスにデプロイされた最初のリアルタイムレコメンデーションシステムであり、デバイス上でユーザー行動を処理し、レコメンデーションをローカルで再ランク付けすることで、リアルタイムでのユーザーの好みの把握とシステムフィードバックを可能にした。非均質な行動モデリングと行動アテンションネットワークを用いたコンテキスト対応再ランク付けにより、オンラインA/BテストでPVが最大1.57%向上、CTRが7.18%向上、CLICKが8.87%増加、GMVが10.92%向上した。

ABSTRACT

Recommender system (RS) has become a crucial module in most web-scale applications. Recently, most RSs are in the waterfall form based on the cloud-to-edge framework, where recommended results are transmitted to edge (e.g., user mobile) by computing in advance in the cloud server. Despite effectiveness, network bandwidth and latency between cloud server and edge may cause the delay for system feedback and user perception. Hence, real-time computing on edge could help capture user preferences more preciously and thus make more satisfactory recommendations. Our work, to our best knowledge, is the first attempt to design and implement the novel Recommender System on Edge (EdgeRec), which achieves Real-time User Perception and Real-time System Feedback. Moreover, we propose Heterogeneous User Behavior Sequence Modeling and Context-aware Reranking with Behavior Attention Networks to capture user's diverse interests and adjust recommendation results accordingly. Experimental results on both the offline evaluation and online performance in Taobao home-page feeds demonstrate the effectiveness of EdgeRec.

研究の動機と目的

• クラウドベースのウォールフォールレコメンデーションシステムにおけるユーザー好みの把握とシステムフィードバックの遅延を解消すること。
• モバイルデバイスでの即時のユーザーインタラクションに基づいて、レコメンデーションをリアルタイムで適応可能にすること。
• 計算をエッジに移行させることで、リアルタイム意思決定におけるクラウドサーバーへの依存を低減すること。
• ポジティブおよびネガティブなフィードバックを含む多様で非均質なユーザー行動をデバイス上でモデリングし、パーソナライゼーションを向上させること。
• デバイス内での再ランク付けにより、CTR、GMV、ユーザー参加度などのオンライン指標で顕著な向上を達成すること。

提案手法

• 候補アイテムはクラウドベースのモデルで生成され、デバイス上でのモデルがリアルタイムの再ランク付けを実行するハイブリッドアーキテクチャを採用。
• ユーザー行動の両方（例：カートへの追加 vs. クイックスクロール）を捉えるために、非均質なユーザー行動シーケンスマデリング（HUBSM）を採用。
• コンテキスト対応再ランク付け（CRBAN）において、行動アテンションネットワーク（BAN）を用いて候補アイテムとリアルタイムのユーザー行動コンテキストの相互作用をモデリング。
• モデルコンponentsをエッジとクラウドの間で分割することで、計算負荷とストレージのバランスを取った。これにより、効率的なデバイス内推論が可能になった。
• ユーザー行動データは、収集・保存・処理をすべてローカルで実行し、ネットワーク遅延を低減。行動キャプチャの遅延を300ms未満に抑えた。
• ページングの固定タイミングではなく、ユーザーインタラクションに応じて動的に再ランク付けをトリガーすることで、1ページあたりのフィードバック頻度を3回から15回に向上。

実験結果

リサーチクエスチョン

• RQ1 大規模な産業用レコメンデーションシステムにおいて、モバイルエッジデバイスでリアルタイムのユーザー行動把握とシステムフィードバックを達成できるか？
• RQ2 ポジティブおよびネガティブな両方のユーザー行動をデバイス上で効果的にモデリングすることで、レコメンデーションの関連性を向上させられるか？
• RQ3 アテンション機構を用いたデバイス内コンテキスト対応再ランク付けは、オンラインレコメンデーションパフォーマンスにどの程度向上効果をもたらすか？
• RQ4 エッジベースのリアルタイム適応により、CTR、GMV、クリックスルーレートなどの主要ビジネス指標でどの程度の向上が達成できるか？
• RQ5 大規模なニューラルネットワークをサポートしつつ、モバイルデバイス上でのモデル効率性とシステムの応答性をどのように維持できるか？

主な発見

• EdgeRecは、クラウドオンリーシステムで最大1分のユーザー行動遅延を、デバイス内処理により300ms以内に短縮した。
• 計算をモバイルエッジに移行させたことで、システム応答時間が1秒を超えていたのを100ms未満に改善し、ネットワーク伝送遅延を排除した。
• 1ページあたりのシステムフィードバック機会の平均数を3回から15回に増やし、ユーザー行動へのより迅速な適応が可能になった。
• オンラインA/Bテストの結果、EdgeRecはPVが1.57%向上、CTRが7.18%向上、CLICKが8.87%増加、GMVが10.92%向上した。
• HUBSMおよびCRBANモジュールは、行動パターンに基づくポジティブまたはネガティブな関心の正確な予測を実現し、ユーザーの意図を効果的に捉えていた。
• EdgeRecは現在、モバイル淘寶で本番環境にデプロイされており、主要トラフィックを処理しており、スケーラビリティと実世界での有効性を実証している。