[논문 리뷰] Kalman Filtering Attention for User Behavior Modeling in CTR Prediction

Hu Liu, Jing Lu외 9명|arXiv (Cornell University)|2020. 10. 02.

Recommender Systems and Techniques참고 문헌 28인용 수 9

한 줄 요약

이 논문은 가중 풀링을 최대 사후확률(MAP) 추정으로 간주함으로써 사용자 행동을 모델링하는 새로운 어텐션 메커니즘인 칼만 필터링 어텐션(Kalman Filtering Attention, KFAtt)을 제안한다. 전역 사전정보와 빈도 제한을 통합함으로써 기존 어텐션의 한계인 제한된 어텐션 영역과 빈번한 행동에 대한 편향을 극복하여, JD.com의 100억 규모 생산 데이터셋에서 온라인 A/B 테스트에서 CTR 4.4% 향상을 달성한다.

ABSTRACT

Click-through rate (CTR) prediction is one of the fundamental tasks for e-commerce search engines. As search becomes more personalized, it is necessary to capture the user interest from rich behavior data. Existing user behavior modeling algorithms develop different attention mechanisms to emphasize query-relevant behaviors and suppress irrelevant ones. Despite being extensively studied, these attentions still suffer from two limitations. First, conventional attentions mostly limit the attention field only to a single user's behaviors, which is not suitable in e-commerce where users often hunt for new demands that are irrelevant to any historical behaviors. Second, these attentions are usually biased towards frequent behaviors, which is unreasonable since high frequency does not necessarily indicate great importance. To tackle the two limitations, we propose a novel attention mechanism, termed Kalman Filtering Attention (KFAtt), that considers the weighted pooling in attention as a maximum a posteriori (MAP) estimation. By incorporating a priori, KFAtt resorts to global statistics when few user behaviors are relevant. Moreover, a frequency capping mechanism is incorporated to correct the bias towards frequent behaviors. Offline experiments on both benchmark and a 10 billion scale real production dataset, together with an Online A/B test, show that KFAtt outperforms all compared state-of-the-arts. KFAtt has been deployed in the ranking system of a leading e commerce website, serving the main traffic of hundreds of millions of active users everyday.

연구 동기 및 목표

• 기존 어텐션 메커니즘이 한 명의 사용자 역사적 행동에만 국한된 어텐션을 가지며, 사용자가 새로운 관련 없는 요구를 검색할 경우 실패하는 문제를 해결하기 위해.
• 기존 어텐션 메커니즘에서 자주 발생하는 행동에 대한 편향이 드물지만 관련성이 높은 쿼리를 가리킬 수 있도록 수정하기 위해.
• 전역 통계와 빈도 제한을 활용하여 더 견고한 사용자 관심 모델링을 위한 이론적으로 탄탄한 어テン션 메커니즘을 개발하기 위해.
• 산업 규모의 온라인 CTR 예측 시스템에 적합한 효율적이고 저지연의 행동 모델링 모듈을 설계하기 위해.

제안 방법

• KFAtt는 역사적 행동을 관측되지 않은 사용자 관심의 노이즈 있는 측정값으로 간주함으로써 사용자 관심 추정을 MAP 문제로 모델링한다.
• KFAtt-base 변형은 관련 행동이 적을 경우 예측을 안정화시키기 위해 전역 사전정보를 도입하여 낮은 데이터 상황에서 편향 없는 추정을 가능하게 한다.
• KFAtt-freq 확장은 동일한 쿼리에 속하는 행동들을 하나의 센서에서 반복 측정한 것으로 간주하여, 고빈도 쿼리에 대한 편향을 보정하기 위해 빈도 제한을 적용한다.
• MAP 공식에서의 시스템 오차 분산은 쿼리 빈도와 행동 관련성에 따라 조정되어 동적 어텐션 가중치를 가능하게 한다.
• 두 단계의 행동 모델링 모듈을 제안한다: 시퀀스 모델링을 위한 트랜스포머 인코더와 타겟 특화 관심 추출을 위한 KFAtt 디코더.
• KFAtt 기반 모듈는 저지연 추론을 최적화하여 DIN 및 트랜스포머 수준의 성능을 달성하면서도 정확도에서 슈퍼어리어를 기록한다.

실험 결과

연구 질문

• RQ1 희소하거나 관련성이 없는 역사적 행동이 존재할 경우, 어텐션 메커니즘에 전역 사전정보를 통합하면 사용자 관심 추정 성능이 향상되는가?
• RQ2 어디서나 빈도 제한을 적용하면 고빈도 쿼리에 대한 편향이 줄어들어 사용자 행동 모델링에서 더 나은 성능을 낼 수 있는가?
• RQ3 칼만 필터링을 통한 가중 풀링의 MAP 공식화가 CTR 예측에서 기존 표준 어텐션 메커니즘을 초월할 수 있는가?
• RQ4 고속 트래픽과 엄격한 지연 제약 조건을 가진 실제 산업 환경에서 KFAtt는 어떻게 성능을 발휘하는가?

주요 결과

• KFAtt-freq는 JD.com의 생산 시스템에서 온라인 A/B 테스트에서 CTR 4.4% 향상을 달성하여 연간 광고 수익에 추가로 1억 달러의 수익을 창출했다.
• 1000억 규모의 실제 데이터셋에서 KFAtt-trans-freq는 트랜스포머를 포함한 모든 베이스라인을 초월하여 기준 모델 대비 AUC 0.017 향상을 기록했다.
• 오프라인 실험 결과, KFAtt-trans-freq는 생산 데이터셋에서 AUC 0.766을 기록하여 합성 풀링(0.749)과 기타 최첨단 모델들을 크게 앞서며 최고 성능을 보였다.
• KFAtt 기반 모듈는 낮은 지연을 유지하여 TP99 지연이 DIN 및 트랜스포머와 유사했고, DIEN보다도 현저히 낮아 생산 환경에 적합한 성능을 확보했다.
• 기본 어텐션, DIN, 트랜스포머 어텐션 메커니즘에 KFAtt를 통합하는 것은 일관되게 성능 향상을 이끌어내어 그 높은 적응 가능성과 타당성을 입증했다.
• 이 방법은 실제 전자상거래 시스템에서 흔한 새로운 쿼리나 드문 쿼리에서의 성능 저하 문제를 효과적으로 완화한다.