[논문 리뷰] EdgeRec: Recommender System on Edge in Mobile Taobao

Yu Gong, Ziwen Jiang외 5명|arXiv (Cornell University)|2020. 05. 18.

Recommender Systems and Techniques참고 문헌 30인용 수 12

한 줄 요약

EdgeRec는 타오바오에서 모바일 엣지 디바이스에 구현된 최초의 실시간 추천 시스템으로, 사용자 행동을 현장에서 처리하고 추천을 재정렬함으로써 실시간 사용자 인식과 시스템 피드백을 가능하게 한다. 이는 이질적 행동 모델링과 행동 어텐션 네트워크를 활용한 맥락 인식 재정렬을 통해 온라인 A/B 테스트에서 최대 1.57% 높은 PV, 7.18% 높은 CTR, 8.87% 많은 CLICK, 10.92% 높은 GMV를 달성한다.

ABSTRACT

Recommender system (RS) has become a crucial module in most web-scale applications. Recently, most RSs are in the waterfall form based on the cloud-to-edge framework, where recommended results are transmitted to edge (e.g., user mobile) by computing in advance in the cloud server. Despite effectiveness, network bandwidth and latency between cloud server and edge may cause the delay for system feedback and user perception. Hence, real-time computing on edge could help capture user preferences more preciously and thus make more satisfactory recommendations. Our work, to our best knowledge, is the first attempt to design and implement the novel Recommender System on Edge (EdgeRec), which achieves Real-time User Perception and Real-time System Feedback. Moreover, we propose Heterogeneous User Behavior Sequence Modeling and Context-aware Reranking with Behavior Attention Networks to capture user's diverse interests and adjust recommendation results accordingly. Experimental results on both the offline evaluation and online performance in Taobao home-page feeds demonstrate the effectiveness of EdgeRec.

연구 동기 및 목표

• 클라우드 기반 워터폴 추천 시스템에서의 사용자 선호도 인식 및 시스템 피드백 지연 문제를 해결하기 위해.
• 모바일 디바이스에서 즉각적인 사용자 상호작용을 바탕으로 추천을 실시간으로 적응시키기 위해.
• 계산을 엣지로 이관함으로써 실시간 의사결정에 대한 클라우드 서버 의존도를 줄이기 위해.
• 양성 및 악성 피드백을 포함한 다양한 이질적 사용자 행동을 현장에서 모델링하여 개인화를 향상시키기 위해.
• CTR, GMV, 사용자 참여도와 같은 핵심 온라인 지표에서의 성능 향상을 실현하기 위해 현장에서의 재정렬을 통해 달성하기 위해.

제안 방법

• EdgeRec는 후보 아이템을 클라우드 기반 모델이 생성하고, 현장 모델이 실시간으로 재정렬하는 하이브리드 아키텍처를 구현한다.
• 사용자 행동의 이질성을 반영하기 위해, 구매 담기와 빠른 스크롤 등의 음성 및 양성 행동을 모두 수용하는 이질적 사용자 행동 시퀀스 모델링(HUBSM)을 적용한다.
• 후보 아이템과 실시간 사용자 행동 맥락 간의 상호작용을 모델링하기 위해 맥락 인식 재정렬(CRBAN)에서 행동 어텐션 네트워크(BAN)를 활용한다.
• 모델 컴포넌트는 계산 부담과 스토리지 균형을 고려해 엣지와 클라우드 간에 분할하여 효율적인 현장 추론을 가능하게 한다.
• 사용자 행동 데이터는 현장에서 수집, 저장 및 처리되어 네트워크 지연을 줄이고, 행동 캡처 지연을 300ms 이내로 가능하게 한다.
• 고정된 페이지 이동 방식이 아닌 사용자 상호작용에 기반해 동적으로 재정렬을 트리거함으로써, 시스템 피드백 빈도를 페이지당 3회에서 15회로 증가시킨다.

실험 결과

연구 질문

• RQ1 대규모 산업용 추천 시스템에서 모바일 엣지 디바이스에서 실시간 사용자 행동 인식과 시스템 피드백을 달성할 수 있는가?
• RQ2 사용자 행동의 이질성—양성 및 악성 행동을 포함하여—현장에서 효과적으로 모델링할 수 있는가?
• RQ3 어텐션 메커니즘을 활용한 현장 기반 맥락 인식 재정렬이 온라인 추천 성능에 얼마나 기여하는가?
• RQ4 엣지 기반 실시간 적응을 통해 CTR, GMV, 클릭률과 같은 핵심 비즈니스 지표에서 어떤 성능 향상을 달성할 수 있는가?
• RQ5 대규모 신경망을 지원하면서도 모바일 디바이스에서 모델 효율성과 시스템 반응성을 유지할 수 있는가?

주요 결과

• EdgeRec는 클라우드 전용 시스템에서 최대 1분까지 발생하던 사용자 행동 지연을 디바이스 현장 처리로 300ms 이내로 단축시켰다.
• 계산을 모바일 엣지로 이관함으로써 시스템 응답 시간을 1초 이상에서 100ms 이내로 개선했고, 네트워크 전송 지연을 제거했다.
• 페이지당 평균 시스템 피드백 기회 수를 3회에서 15회로 증가시켜 사용자 행동에 더 민감하게 반응할 수 있도록 했다.
• 온라인 A/B 테스트 결과, EdgeRec은 페이지 뷰(PV)가 1.57% 높고, 클릭률(CTR)이 7.18% 높으며, 클릭 수(CLICK)가 8.87% 많고, 거래 금액(GMV)이 10.92% 높은 성과를 기록했다.
• HUBSM 및 CRBAN 모듈은 사용자 의도를 효과적으로 포착했으며, 사례 연구를 통해 행동 패턴 기반으로 긍정적 또는 부정적 관심을 정확하게 예측하는 데 성공했다.
• EdgeRec는 현재 모바일 타오바오에서 생산 환경에 배포되어 주요 트래픽을 처리하고 있어 확장성과 실생활 효과를 입증했다.