[논문 리뷰] Wikipedia graph mining: dynamic structure of collective memory

Volodymyr Miz, Kirell Benzi외 2명|arXiv (Cornell University)|2017. 10. 01.

Wikis in Education and Collaboration참고 문헌 19인용 수 6

한 줄 요약

이 논문은 위키백과의 동적 방문자 활동과 하이퍼링크 구조에서 집단 기억을 추출하고 재생하는 데 허프리드 네트워크 기반 모델을 제안한다. 시간적 페이지 뷰 데이터에 수정된 헤비안 학습 규칙을 적용함으로써, 관련된 기사들의 군집을 기억 패턴으로 식별하며, 부분적인 입력 데이터가 주어져도 샤를리 허블로 공격 같은 사건에 대해 최대 90%의 높은 재생 정확도를 달성한다.

ABSTRACT

Wikipedia is the biggest encyclopedia ever created and the fifth most visited website in the world. Tens of millions of people surf it every day, seeking answers to various questions. Collective user activity on its pages leaves publicly available footprints of human behavior, making Wikipedia an excellent source for analysis of collective behavior. In this work, we propose a distributed graph-based event extraction model, inspired by the Hebbian learning theory. The model exploits collective effect of the dynamics to discover events. We focus on data-streams with underlying graph structure and perform several large-scale experiments on the Wikipedia visitor activity data. We show that the presented model is scalable regarding time-series length and graph density, providing a distributed implementation of the proposed algorithm. We extract dynamical patterns of collective activity and demonstrate that they correspond to meaningful clusters of associated events, reflected in the Wikipedia articles. We also illustrate evolutionary dynamics of the graphs over time to highlight changing nature of visitors' interests. Finally, we discuss clusters of events that model collective recall process and represent collective memories - common memories shared by a group of people.

연구 동기 및 목표

• 신경망 이론의 원리를 활용해 위키백과와 같은 대규모 공동 지식 기반에서 집단 기억 형성 과정을 모델링하기 위해.
• 기존에 편향된 자가 보고에 의존해 온 집단 기억 형성에 대한 일반적이고 데이터 기반의 모델이 부족한 문제를 해결하기 위해.
• 위키백과의 동적 그래프 구조와 방문자 로그에서 시간적으로 일관된 기억 패턴을 추출하는 확장 가능한 비지도 학습 방법을 개발하기 위해.
• 콘텐츠 기반 주소 지정 기억 시스템을 사용해 집단 기억이 고정밀도로 학습되고 재생될 수 있음을 보여주기 위해.
• 강력하고 분산된 그래프 알고리즘을 통해 시간에 따라 변화하는 공중 관심사를 동적으로 분석할 수 있도록 하기 위해.

제안 방법

• 집단 기억 역학을 모델링하기 위해 시간대별 위키백과 페이지 뷰 로그와 하이퍼링크 네트워크를 입력으로 사용한다.
• 공동 방문이 발생할수록 연결된 기사 간의 연결 강도가 증가하는 방식으로, 위키백과 그래프에 수정된 헤비안 학습 규칙을 적용한다.
• 각 기억 패턴이 특정 사건 기간 동안 활성화된 의미적으로 관련된 위키백과 페이지 군집에 해당하는 허프리드 네트워크를 구성한다.
• 매월의 위키백과 그래프와 방문자 활동 스냅샷을 기반으로 비지도 학습을 수행한다.
• 대규모 위키백과 데이터를 대상으로 확장 가능한 분산 구현을 위해 Apache Spark GraphX를 활용한다.
• 콘텐츠 기반 주소 지정 기억 재생을 적용한다: 예를 들어 20%의 데이터가 누락된 부분적 활성 패턴이 주어지면, 모델이 전체 사건 군집을 복원한다.

실험 결과

연구 질문

• RQ1 위키백과 페이지 방문의 동적 상호작용과 하이퍼링크 구조에서 집단 기억 패턴이 유도될 수 있는가?
• RQ2 부분적 또는 노이즈가 있는 방문자 활동 데이터로부터 허프리드 네트워크 모델이 사건 기반 기억 군집을 얼마나 정확하게 재구성할 수 있는가?
• RQ3 페이지 뷰의 시간적 동역학은 실제 사건과의 관련성으로 인해 공중의 호기심을 자극한 실재 세계의 사건과 어떻게 관련이 있는가?
• RQ4 위키백과의 그래프 구조에 적용된 수정된 헤비안 학습 규칙이 자율적으로 콘텐츠 기반 주소 지정 기억 시스템으로 조직화될 수 있는가?
• RQ5 입력 데이터의 열악한 수준이 다양할 경우 모델의 강건성과 재생 정확도는 어떠한가?

주요 결과

• 모델은 샤를리 허블로 공격 같은 실제 세계의 사건에 대응하는 집단 기억 패턴을 성공적으로 식별하며, 연결된 기사들이 동기화된 페이지 뷰 정점 패턴을 보임을 확인했다.
• 입력 데이터의 20%가 누락된 경우에도 재생 정확도가 최대 90%에 이를 정도로 높은 강건성을 보였다.
• 72시간의 정점 활동 창에 대해선 7개월 동안의 기간보다 더 높은 재생 정확도를 달성했는데, 이는 고립되거나 활동이 적은 페이지에서 오는 노이즈가 감소했기 때문이다.
• 출력에서 최소한 한 개의 활성화가 요구되는 완화된 재생 정확도 지표는 성능 향상을 보였으며, 이는 모델이 핵심 사건 역학을 효과적으로 포착하고 있음을 시사한다.
• 모델의 초모수 조정에 대해 높은 강건성을 보이며, 실세계 응용에 실용적으로 활용 가능함을 시사한다.
• Apache Spark GraphX를 활용한 분산 구현은 대규모 위키백과 데이터의 효율적 처리를 가능하게 하여 실시간 또는 실시간에 가까운 분석을 지원한다.