[논문 리뷰] Monte Carlo Methods for Top-k Personalized PageRank Lists and Name Disambiguation

Konstantin Avrachenkov, Nelly Litvak외 3명|arXiv (Cornell University)|2010. 08. 23.

Data Quality and Management참고 문헌 26인용 수 8

한 줄 요약

이 논문은 많은 응용 분야에서 약간의 오차가 있는 근사 상위-k 결과로도 충분하므로, 몬테카를로 기반 방법을 통해 상위-k 개인화된 페이지랭크 목록을 효율적으로 계산하는 방법을 제안한다. 이 방법은 단일 파워 반복의 1–5%에 불과한 계산 비용으로도 높은 정확도를 달성하였으며, 이름 간소화 문제에 적용되어 WePS 2010 경연 대회에서 2등을 차지하였다.

ABSTRACT

We study a problem of quick detection of top-k Personalized PageRank lists. This problem has a number of important applications such as finding local cuts in large graphs, estimation of similarity distance and name disambiguation. In particular, we apply our results to construct efficient algorithms for the person name disambiguation problem. We argue that when finding top-k Personalized PageRank lists two observations are important. Firstly, it is crucial that we detect fast the top-k most important neighbours of a node, while the exact order in the top-k list as well as the exact values of PageRank are by far not so crucial. Secondly, a little number of wrong elements in top-k lists do not really degrade the quality of top-k lists, but it can lead to significant computational saving. Based on these two key observations we propose Monte Carlo methods for fast detection of top-k Personalized PageRank lists. We provide performance evaluation of the proposed methods and supply stopping criteria. Then, we apply the methods to the person name disambiguation problem. The developed algorithm for the person name disambiguation problem has achieved the second place in the WePS 2010 competition.

연구 동기 및 목표

• 대규모 그래프에서 상위-k 개인화된 페이지랭크 목록을 신속하고 확장성 있게 계산할 수 있는 방법을 개발하기 위해.
• 이름 간소화와 같은 응용 분야에서 정확도를 유지하면서도 계산 비용을 줄이기 위해.
• 실세계 응용 분야에서 상위-k 목록의 미세한 오차에 대한 내성적 특성을 활용하여 성능 향상을 이루기 위해.
• 웹 구조와 콘텐츠 특징을 모두 활용하여 개인 이름 간소화 문제에 이 방법을 적용하기 위해.
• 전통적인 파워 반복 대비 국소적이고 근사적인 페이지랭크 계산에서 몬테카를로 샘플링의 효과성을 입증하기 위해.

제안 방법

• 저장 및 사전 계산 필요를 줄이기 위해 전방 링크에만 집중하는 몬테카를로 무작위 보행을 사용하여 개인화된 페이지랭크 값을 추정한다.
• 상위-k 추정치의 수렴을 기반으로 한 정지 기준을 적용하여 정밀도보다는 속도를 우선시한다.
• 응용 품질에 영향을 주지 않으면서도 소수의 잘못된 요소가 포함된 느슨한 상위-k 목록을 허용하는 리프레시 전략을 사용한다.
• 콘텐츠 기반 특징(tf-idf 및 투표 방식)과 웹 구조(개인화된 페이지랭크를 통한 관련 페이지 상위-k)를 결합하여 클러스터링을 수행한다.
• 콘텐츠 및 관련 페이지에서 유도된 프로파일 벡터 간 코사인 유사도를 사용하여 평균 연결 계층적 응집 클러스터링(HAC)을 적용한다.
• 관련 페이지에서의 공통 출현 빈도를 활용하여 개인 페이지의 단어 점수를 강화하는 재가중 전략을 사용하여 잡음으로 인한 영향을 감소시킨다.

실험 결과

연구 질문

• RQ1 몬테카를로 샘플링을 통해 상위-k 개인화된 페이지랭크 목록 계산의 계산 비용을 크게 줄일 수 있을까? 이때도 충분한 정확도를 유지할 수 있을까?
• RQ2 약간의 잘못된 항목이 포함된 느슨한 상위-k 목록이 이름 간소화와 같은 고품질 응용 분야에서 얼마나 잘 기능할 수 있을까?
• RQ3 개인화된 페이지랭크를 통한 국소적 웹 구조와 콘텐츠 특징을 조합하는 것이 개인 이름 간소화에 얼마나 효과적인가?
• RQ4 역방향 링크 정보를 누락하고도 전방 링크만 사용하는 무작위 보행에서 의미 있는 상위-k 목록을 도출할 수 있을까?
• RQ5 하이브리드 구조-콘텐츠 클러스터링 파이프라인에서 관련 페이지 수(k)와 콘텐츠 추출 전략 사이의 최적의 트레이드오프는 무엇인가?

주요 결과

• 몬테카를로 방법은 평균적으로 2~3개의 잘못된 요소만 포함하면서도 단일 파워 반복의 1–5%에 불과한 연산량으로 상위-10 개인화된 페이지랭크 목록을 계산하는 데에 사용되었다.
• WePS 2010 경연 대회에서 F-0.5 점수 0.71(PPR16)과 0.70(PPR8)를 기록하며 2등을 차지하여 뛰어난 성능을 입증하였다.
• k=8 관련 페이지를 사용할 경우 k=16보다 略적으로 더 좋은 결과를 얻었으며, 이는 더 큰 k에 대해 수익 감소 현상이 있음을 시사한다.
• 콘텐츠 재가중 전략은 관련 페이지에서의 공통 출현 빈도를 활용하여 주제 관련 단어를 효과적으로 강화하여 프로파일 품질을 향상시켰다.
• 웹 구조 기반 클러스터링과 코사인 유사도를 사용한 콘텐츠 기반 HAC의 조합은 제한된 그래프 지식 조건에서도 견고한 간소화 결과를 도출하였다.
• 이 방법은 실질적으로 '80/20 법칙'을 검증하였다: 계산 노력의 20%로도 결과 품질의 80%를 달성할 수 있었다.