[논문 리뷰] Targeted Advertising on Social Networks Using Online Variational Tensor Regression

Tsuyoshi Idé, Keerthiram Murugesan외 2명|arXiv (Cornell University)|2022. 08. 22.

Tensor decomposition and applications인용 수 4

한 줄 요약

이 논문은 온라인 타겟 광고에서 사용자-제품 이질성을 온라인 변분 텐서 회귀를 통해 모델링하는 텐서 기반의 맥락적 밴디트 프레임워크인 TensorUCB를 제안한다. 다중 모드 텐서 컨텍스트와 평균장 변분 추론을 활용하여, 특히 제품 다양성이 높은 환경에서 누적 정규화 오차와 확장성 측면에서 기존 기준보다 뛰어난 影响 확산 성능을 달성한다.

ABSTRACT

This paper is concerned with online targeted advertising on social networks. The main technical task we address is to estimate the activation probability for user pairs, which quantifies the influence one user may have on another towards purchasing decisions. This is a challenging task because one marketing episode typically involves a multitude of marketing campaigns/strategies of different products for highly diverse customers. In this paper, we propose what we believe is the first tensor-based contextual bandit framework for online targeted advertising. The proposed framework is designed to accommodate any number of feature vectors in the form of multi-mode tensor, thereby enabling to capture the heterogeneity that may exist over user preferences, products, and campaign strategies in a unified manner. To handle inter-dependency of tensor modes, we introduce an online variational algorithm with a mean-field approximation. We empirically confirm that the proposed TensorUCB algorithm achieves a significant improvement in influence maximization tasks over the benchmarks, which is attributable to its capability of capturing the user-product heterogeneity.

연구 동기 및 목표

• 사용자 영향 확산 확률이 알려져 있지 않고 실시간으로 학습이 필요하는 소셜 네트워크에서의 영향 확산 최적화 문제를 해결하기 위해.
• 다차원 특징 공간 내 상호의존성을 포착하는 통합 프레임워크를 통해 사용자, 제품, 마케팅 전략 간의 복잡한 이질성을 모델링하기 위해.
• 확률적 텐서 회귀와 상한 신뢰도 기반(UCB) 탐색을 통합한 확장 가능한 온라인 학습 알고리즘을 개발하여 효율적이고 적응적인 시드 선택을 가능하게 하기 위해.
• 실증적으로 기존 기준보다 누적 정규화 오차와 영향 확산 측면에서 뚜렷이 뛰어나며, 특히 높은 제품 다양성 조건에서 성능을 검증하기 위해.

제안 방법

• 프레임워크는 사용자 특징, 제품 특징, 캠프aign 전략 벡터를 인코딩하는 다중 모드 텐서(컨텍스트 텐서)를 사용하여 사용자-제품 상호작용을 종합적으로 모델링한다.
• 활성화 확률 행렬을 컨텍스트 텐서의 함수로 모델링하기 위해 저랭크 CP 텐서 분해를 적용하여 이질적인 사용자 및 제품 유형 간의 잠재 패턴을 포착한다.
• 실시간으로 텐서 요소의 사후 분포를 업데이트하기 위해 평균장 근사법을 사용하는 온라인 변분 추론 알고리즘을 개발하여 효율적인 순차적 학습을 가능하게 한다.
• 텐서 회귀의 예측 분포를 사용해 UCB 스타일 정책에서 신뢰 구간을 계산하여 시드 선택 과정에서 탐색과 이용의 균형을 이룬다.
• 알고리즘은 '암호'가 시드 사용자에 해당하고, '컨텍스트'가 사용자-제품 텐서이며, '보상'이 유도된 구매 수인 맥락적 밴디트 문제로 수식화된다.
• 예측 분포의 닫힌 형태를 바탕으로 정규화 오차의 경계를 유도하여 알고리즘 성능에 대한 이론적 근거를 제공한다.

실험 결과

연구 질문

• RQ1 텐서 기반 프레임워크는 온라인 광고에서 이질적인 사용자 선호도, 제품 유형, 마케팅 전략을 효과적으로 모델링하고 일반화할 수 있는가?
• RQ2 온라인 변분 텐서 회귀와 UCB 정책을 통합할 경우, 기존 선형 또는 인수 분해 기반 밴디트 방법에 비해 영향 확산에 어떤 개선을 이룰 수 있는가?
• RQ3 특히 Digg와 같은 높은 제품 다양성을 가진 데이터셋에서, 텐서 랭크 R이 성능과 정규화 오차에 어떤 영향을 미치는가?
• RQ4 제안된 방법의 계산 비용은 그래프 크기와 텐서 차원에 따라 어떻게 증가하는가? 실질적으로 기준 기준과 비교했을 때의 성능은 어떠한가?

주요 결과

• Digg 데이터셋과 같이 높은 이질성 환경에서, Random, IMLinUCB, DILinUCB와 같은 기준 기준에 비해 TensorUCB는 누적 정규화 오차를 크게 감소시킨다.
• IMFB가 시뮬레이션 데이터로 학습된 경우조차도, IMFB와 COIN을 초월하여 영향 확산 측면에서 뛰어난 성능을 보이며, 복잡한 사용자-제품 동적 특성을 가진 실제 데이터에서의 강건성을 입증한다.
• 텐서 랭크 R을 증가시킬수록 정규화 오차 성능이 개선되며, 포화점에 도달함에 따라 모델이 사용자와 제품 간의 다수의 잠재적 영향 패턴을 포착할 수 있음을 검증한다.
• 라운드당 계산 시간은 그래프 크기와 선형적으로 증가하므로, 대규모 소셜 네트워크에서 효율적이고 실용적인 성능을 유지한다. IMLinUCB와 유사한 성능을 보이며, 정규화 오차 감소 측면에선 훨씬 뛰어나다.
• Flixster와 Digg와 같은 다양한 데이터셋에서 안정적인 성능을 유지하여, 데이터 희소성과 제품 카테고리 이질성 수준의 다양성에 대해 강건함을 보인다.
• 텐서 기반 컨텍스트 모델링과 UCB의 통합은 제품별 확산 동역학이 크게 다를 경우, 특징에 무관하거나 선형 밴디트 기준보다 더 우수한 일반화 성능을 제공한다.