[论文解读] Targeted Advertising on Social Networks Using Online Variational Tensor Regression

Tsuyoshi Idé, Keerthiram Murugesan+2 more|arXiv (Cornell University)|Aug 22, 2022

Tensor decomposition and applications被引用 4

一句话总结

该论文提出了一种新型基于张量的上下文多臂赌博机框架 TensorUCB，通过在线变分张量回归建模在线定向广告中的用户-产品异质性。通过利用多模态张量上下文和平均场变分推断，该方法在影响最大化方面表现优异，尤其在产品多样性较高的情况下，其累积遗憾和可扩展性均优于基线方法。

ABSTRACT

This paper is concerned with online targeted advertising on social networks. The main technical task we address is to estimate the activation probability for user pairs, which quantifies the influence one user may have on another towards purchasing decisions. This is a challenging task because one marketing episode typically involves a multitude of marketing campaigns/strategies of different products for highly diverse customers. In this paper, we propose what we believe is the first tensor-based contextual bandit framework for online targeted advertising. The proposed framework is designed to accommodate any number of feature vectors in the form of multi-mode tensor, thereby enabling to capture the heterogeneity that may exist over user preferences, products, and campaign strategies in a unified manner. To handle inter-dependency of tensor modes, we introduce an online variational algorithm with a mean-field approximation. We empirically confirm that the proposed TensorUCB algorithm achieves a significant improvement in influence maximization tasks over the benchmarks, which is attributable to its capability of capturing the user-product heterogeneity.

研究动机与目标

• 为解决社交网络中在线定向广告的影响最大化挑战，其中用户影响力概率未知且需实时学习。
• 在统一框架中建模用户、产品和营销策略之间的复杂异质性，捕捉多维特征空间中的相互依赖关系。
• 开发一种可扩展的在线学习算法，将概率张量回归与上置信度边界（UCB）探索策略结合，实现高效且自适应的种子用户选择。
• 通过实证验证，该框架在累积遗憾和影响传播方面显著优于现有基线方法，尤其在高产品多样性场景下表现突出。

提出的方法

• 该框架使用多模态张量（上下文张量）编码用户特征、产品特征和广告活动策略向量，实现对用户-产品交互的联合建模。
• 采用低秩 CP 张量分解，将激活概率矩阵建模为上下文张量的函数，捕捉异质用户与产品类型之间的潜在模式。
• 开发了一种基于平均场近似的在线变分推断算法，用于实时更新张量因子的后验分布，实现高效的序列学习。
• 利用张量回归的预测分布计算 UCB 风格的置信区间，在种子选择过程中平衡探索与利用。
• 将该算法形式化为上下文多臂赌博机问题，其中“臂”对应一个种子用户，“上下文”为用户-产品张量，“奖励”为产生的购买数量。
• 基于闭式预测分布推导出遗憾界分析，为算法性能提供理论依据。

实验结果

研究问题

• RQ1 基于张量的框架能否有效建模并泛化于在线广告中异质的用户偏好、产品类型和营销策略？
• RQ2 将在线变分张量回归与 UCB 策略结合，相较于现有的线性或因子分解多臂赌博机方法，如何提升影响最大化性能？
• RQ3 张量秩 R 对性能与遗憾的影响如何，特别是在 Digg 等高产品多样性数据集上？
• RQ4 所提方法的计算成本如何随图规模和张量维度扩展？与基线方法在实际应用中的表现相比如何？

主要发现

• 在 Digg 数据集等高异质性设置下，TensorUCB 显著降低了与 Random、IMLinUCB 和 DILinUCB 等基线方法相比的累积遗憾。
• 即使 IMFB 在模拟数据上进行训练，TensorUCB 在影响传播方面仍表现更优，证明其在具有复杂用户-产品动态的真实数据中具备更强鲁棒性。
• 提高张量秩 R 可持续改善遗憾性能，直至达到饱和点，验证了模型捕捉用户与产品间多种潜在影响模式的能力。
• 每轮计算时间与图规模呈线性增长，使 TensorUCB 在大规模社交网络中高效且实用，性能与 IMLinUCB 相当，但遗憾减少效果显著更优。
• 该框架在多种数据集（Flixster 和 Digg）上均保持稳定性能，展现出对数据稀疏性和不同产品类别异质性水平的强适应能力。
• 将基于张量的上下文建模与 UCB 策略结合，相比无特征依赖或线性多臂赌博机基线，泛化能力更优，尤其在产品特定扩散动态差异显著时表现突出。