[논문 리뷰] The closed loop between opinion formation and personalised recommendations

Wilbert Samuel Rossi, Jan Willem Polderman외 1명|arXiv (Cornell University)|2018. 09. 12.

Opinion Dynamics and Social Influence참고 문헌 36인용 수 8

한 줄 요약

이 논문은 사용자 의견 형성과 개인화된 뉴스 추천 간 피드백 루프를 설명하는 계산 가능한 수학적 모델을 제안하며, 확증 편향을 악화시키는 추천 시스템이 사용자들의 의견을 더욱 극단적으로 만들고 있음을 보여준다. 핵심 발견은 측정 가능한 트레이드오프이다: 개인화된 추천으로 인한 클릭률 향상은 의견 왜곡 증가라는 대가를 치르게 된다. 이는 의견 이탈과 참여도 향상 간의 분석적 관계를 통해 수식화되었다.

ABSTRACT

In online platforms, recommender systems are responsible for directing users to relevant contents. In order to enhance the users' engagement, recommender systems adapt their output to the reactions of the users, who are in turn affected by the recommended contents. In this work, we study a tractable analytical model of a user that interacts with an online news aggregator, with the purpose of making explicit the feedback loop between the evolution of the user's opinion and the personalised recommendation of contents. More specifically, we assume that the user is endowed with a scalar opinion about a certain issue and seeks news about it on a news aggregator: this opinion is influenced by all received news, which are characterized by a binary position on the issue at hand. The user is affected by a confirmation bias, that is, a preference for news that confirm her current opinion. The news aggregator recommends items with the goal of maximizing the number of user's clicks (as a measure of her engagement): in order to fulfil its goal, the recommender has to compromise between exploring the user's preferences and exploiting what it has learned so far. After defining suitable metrics for the effectiveness of the recommender systems (such as the click-through rate) and for its impact on the opinion, we perform both extensive numerical simulations and a mathematical analysis of the model. We find that personalised recommendations markedly affect the evolution of opinions and favor the emergence of more extreme ones: the intensity of these effects is inherently related to the effectiveness of the recommender. We also show that by tuning the amount of randomness in the recommendation algorithm, one can seek a balance between the effectiveness of the recommendation system and its impact on the opinions.

연구 동기 및 목표

• 온라인 뉴스 플랫폼에서 사용자 의견 변화와 개인화된 추천 시스템 간의 폐쇄 루프 상호작용을 모델링하기.
• 확증 편향과 추천 전략이 함께 의견 극단화와 사용자 참여도에 어떤 영향을 미치는지 정량화하기.
• 추천 시스템의 효과성(클릭률)과 그로 인한 의견 왜곡에 미치는 영향 사이의 트레이드오프 분석하기.
• 추천 알고리즘의 무작위성 조정을 통해 참여도와 의견 안정성 간의 균형을 어떻게 달성할 수 있는지 탐색하기.

제안 방법

• 사용자가 정치적 또는 사회적 문제에 대해 +1 또는 -1의 이원적 위치를 가진 뉴스 항목을 수신할 때 의견을 갱신하는 스칼라 의견 모델.
• 사용자는 확증 편향을 보이며, 뉴스의 위치가 현재 의견과 일치할수록 클릭 확률이 증가한다.
• 클릭 수를 극대화하기 위해 탐색(알 수 없는 위치 테스트)과 이용(고클릭 항목 추천)을 균형 잡는 이psilon-그리디 전략을 사용하는 추천 시스템.
• 사용자의 의견은 시간에 따라 뉴스를 통합하는 애프린 동적 시스템으로 진화하며, 학습 속도와 노이즈를 조절하는 매개변수를 포함한다.
• 정적 상태에서의 의견과 클릭률에 대한 해석적 해를 유도하여 의견 왜곡과 참여도 향상의 정량화를 가능하게 한다.
• 수치적 시뮬레이션을 통해 다양한 추천 편향 수준(이psilon)과 사용자 초깃값에서 분석 결과의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 확증 편향이 존재하는 상황에서 개인화된 추천이 사용자 의견의 장기적 변화에 어떤 영향을 미치는가?
• RQ2 추천 시스템 성능(클릭률)과 그로 인한 의견 극단화 사이의 정량적 관계는 무엇인가?
• RQ3 추천 알고리즘의 탐색-이용 균형 조정을 통해 의견 왜곡을 어느 정도 완화할 수 있는가?
• RQ4 초기 사용자 의견과 추천 편향 매개변수 이psilon이 최종 의견과 참여도에 어떤 영향을 미치는가?

주요 결과

• 개인화된 추천은 의견 극단화를 크게 악화시키며, 의견 왜곡 Δusr±는 (1−2ε)에 대해 선형적으로 증가한다. 여기서 ε는 추천 편향을 제어하는 매개변수이다.
• 클릭률 향상 Γctr±는 의견 왜곡과 함께 증가하며, 분석적 관계 Γctr± = ½(α/γ)o_usr⁰Δusr± + ½((α+γ)/γ)(Δusr±)²를 따르므로 참여도와 의견 이탈 사이에 직접적인 트레이드오프가 있음을 보여준다.
• ε ≠ 0.5일 경우, 지속적인 의견 왜곡 Δusr± = ±(γ/(α+γ))(1−2ε) 가 발생하여, 추천 시스템의 미세한 편향조차도 측정 가능한 의견 이동을 유도함을 의미한다.
• 모델은 더 높은 추천 효과성(이용을 통한)이 의견 극단화를 증가시키며, 반면 탐색을 늘일수록 왜곡은 감소하지만 참여도는 낮아짐을 확인한다.
• 시뮬레이션 결과는 분석 예측과 강하게 일치하며, 다양한 매개변수 설정에서 실측 클릭률 향상과 예측된 의견 왜곡 간의 높은 일치를 보여준다.