[논문 리뷰] Combating Fake News with Interpretable News Feed Algorithms

Sina Mohseni, Eric D. Ragan|arXiv (Cornell University)|2018. 11. 29.

Misinformation and Its Impacts참고 문헌 35인용 수 11

한 줄 요약

이 논문은 사용자가 콘텐츠 기준화 과정을 더 잘 이해할 수 있도록 해석 가능한 뉴스 피드 알고리즘을 제안하여 가짜 뉴스를 방지한다. 개인화된 추천이 어떻게 생성되는지에 대한 투명하고 사용자가 조정할 수 있는 필터를 통해, 에코 챔버를 줄이고 투명하지 않은 시스템에 대한 맹신을 줄이며, 더 나은 미디어 소비를 이끌고 오락성 정보에 대한 취약성을 감소시킨다.

ABSTRACT

Nowadays, artificial intelligence algorithms are used for targeted and personalized content distribution in the large scale as part of the intense competition for attention in the digital media environment. Unfortunately, targeted information dissemination may result in intellectual isolation and discrimination. Further, as demonstrated in recent political events in the US and EU, malicious bots and social media users can create and propagate targeted `fake news' content in different forms for political gains. From the other direction, fake news detection algorithms attempt to combat such problems by identifying misinformation and fraudulent user profiles. This paper reviews common news feed algorithms as well as methods for fake news detection, and we discuss how news feed algorithms could be misused to promote falsified content, affect news diversity, or impact credibility. We review how news feed algorithms and recommender engines can enable confirmation bias to isolate users to certain news sources and affecting the perception of reality. As a potential solution for increasing user awareness of how content is selected or sorted, we argue for the use of interpretable and explainable news feed algorithms. We discuss how improved user awareness and system transparency could mitigate unwanted outcomes of echo chambers and bubble filters in social media.

연구 동기 및 목표

• 소셜 미디어에서 개인화된 뉴스 피드 알고리즘으로 인한 가짜 뉴스 유포 문제를 해결하기 위해.
• 투명하지 않고 편향된 추천 시스템이 지적 고립, 에코 챔버, 필터 버블을 어떻게 조장하는지 조사하기 위해.
• 알고리즘 투명성과 설명 가능성의 역할이 사용자 인식과 책임감을 높이는 데 어떻게 기여하는지 탐구하기 위해.
• 블랙박스 추천 시스템에서 설명 가능한, 사용자 중심의 뉴스 기준화 메커니즘으로의 전환을 제안하기 위해.
• 사용자가 콘텐츠 선택 기준을 이해하고 조정할 수 있도록 함으로써 정치적 조작과 오락성 정보 유포의 위험을 줄이기 위해.

제안 방법

• 시스템적 편향과 취약점을 특정하기 위해 기존의 뉴스 피드 및 가짜 뉴스 탐지 알고리즘을 검토하기 위해.
• 사용자 참여를 우선시하는 개인화된 추천 시스템이 확증 편향을 어떻게 악화시키는지 분석하기 위해.
• 콘텐츠 선택 기준을 설명할 수 있는 해석 가능한 기계학습 기법을 뉴스 피드 알고리즘에 통합하는 것을 제안하기 위해.
• 모델 파라미터의 시각화와 사용자 친화적인 설명을 통해 뉴스 콘텐츠에 적용된 소프트 필터를 드러내기 위해.
• 해석 가능한 AI(XAI) 및 추천 시스템 분야의 이전 연구를 바탕으로 투명하고 사용자가 조정할 수 있는 필터링 메커니즘을 설계하기 위해.
• 알고리즘 투명성에 관한 사용자 연구의 통찰을 바탕으로 설명 가능한 뉴스 피드 인터페이스의 설계를 지원하기 위해.

실험 결과

연구 질문

• RQ1 현재의 개인화된 뉴스 피드 알고리즘이 가짜 뉴스 유포와 에코 챔버 형성에 어떻게 기여하는가?
• RQ2 알고리즘 기준화 과정에 대한 사용자 무지가 뉴스 콘텐츠 선택에 대한 맹신으로 이어지는 정도는 어느 정도인가?
• RQ3 뉴스 피드 알고리즘의 설명 가능한 설명을 제공할 경우 사용자 인식 향상과 오락성 정보에 대한 취약성 감소에 기여할 수 있는가?
• RQ4 콘텐츠 기반 추천과 사회 기반 추천 간의 사용자 선호도가 투명한 뉴스 피드 시스템 설계에 어떤 역할을 하는가?
• RQ5 해석 가능한 알고리즘이 사용자가 편향된 모델과 추천 시스템의 영향을 감지하고 제어하는 데 어떻게 기여할 수 있는가?

주요 결과

• 사용자들은 뉴스 피드 알고리즘이 어떻게 작동하는지에 대해 상당한 무지를 보이며, 투명하지 않은 시스템에 맹신하게 된다.
• Rader 등이 시험한 바와 같이 뉴스 피드 알고리즘의 설명은 사용자 인식을 향상시키고 알고리즘 편향 및 통제에 대한 인식을 개선한다.
• 특히 개인 정보가 관련된 분야에서는 사용자들이 사회 기반 추천 방식보다 콘텐츠 기반 추천 방식을 선호한다.
• 알고리즘 설계자들의 목표와 사용자 기대 간의 괴리가 소셜 미디어 플랫폼의 장기적 이용률 감소를 초래할 수 있다.
• 필터링 메커니즘을 드러내는 해석 가능한 알고리즘은 사용자가 편향된 모델과 의심스러운 콘텐츠 출력을 감지하는 데 도움이 된다.
• 해석 가능한 AI를 뉴스 추천 시스템에 통합하면 투명성과 사용자 책임감을 높여 가짜 뉴스 유포를 줄일 수 있다.