[논문 리뷰] FS^3: A Sampling based method for top-k Frequent Subgraph Mining

Tanay Kumar Saha, Mohammad Al Hasan|arXiv (Cornell University)|2014. 09. 02.

Data Mining Algorithms and Applications인용 수 3

한 줄 요약

FS³은 고정 크기의 부분그래프 위에서 마르코프 체인 몬테카를로(MCMC) 샘플링을 사용하는 샘플링 기반 방법으로, 빈도가 높은 부분그래프를 점수 함수를 통해 우선순위를 정하여 상위 k개의 빈도 높은 유도 부분그래프를 효율적으로 식별한다. 이는 계산 비용이 높은 부분그래프 이sovomorphism 문제를 해결하지 않으면서도 대규모 그래프에서 높은 정밀도(예: 54.2% pr@500)를 달성하며, 1시간 이내에 완료되며, 기존의 전통적 방법이 실패하는 곳에서도 확장 가능성을 제공한다.

ABSTRACT

Mining labeled subgraph is a popular research task in data mining because of its potential application in many different scientific domains. All the existing methods for this task explicitly or implicitly solve the subgraph isomorphism task which is computationally expensive, so they suffer from the lack of scalability problem when the graphs in the input database are large. In this work, we propose FS^3, which is a sampling based method. It mines a small collection of subgraphs that are most frequent in the probabilistic sense. FS^3 performs a Markov Chain Monte Carlo (MCMC) sampling over the space of a fixed-size subgraphs such that the potentially frequent subgraphs are sampled more often. Besides, FS^3 is equipped with an innovative queue manager. It stores the sampled subgraph in a finite queue over the course of mining in such a manner that the top-k positions in the queue contain the most frequent subgraphs. Our experiments on database of large graphs show that FS^3 is efficient, and it obtains subgraphs that are the most frequent amongst the subgraphs of a given size.

연구 동기 및 목표

• 부분그래프 이sovomorphism과 완전한 열거에 의존하는 기존의 빈도 높은 부분그래프 탐색(FSM) 알고리즘의 확장성 한계를 해결한다. 이는 대규모 그래프에서는 비현실적이게 된다.
• 완전한 부분그래프 공간의 열거 없이도 주어진 크기의 가장 빈도 높은 유도 부분그래프를 효율적으로 식별하는 방법을 개발한다.
• 단백질-단백질 상호작용(PPI) 네트워크와 같은 생물학적 및 사회적 네트워크와 같이 대규모 그래프에서 정확한 FSM 방법이 계산적으로 비현실적이 되는 문제를 해결한다.
• 정확한 FSM에 대한 확률적이고 확장 가능한 대안을 제공하여 추정된 부분그래프 지지도와 실제 지지도 사이의 높은 순위 상관관계를 유지한다.
• 그래프 분류 및 색인화와 같은 후속 작업에 적합한 빠르고 근사적인 상위 k개의 빈도 높은 부분그래프 탐색을 가능하게 한다.

제안 방법

• 고정 크기의 유도 부분그래프 공간에서 마르코프 체인 몬테카를로(MCMC) 샘플링을 사용하며, 부분그래프 점수 함수 $ s_1(G) $ 및 $ s_2(G) $ 기반의 목표 분포를 활용하여 잠재적으로 빈도가 높은 부분그래프를 우선시한다.
• 상위 k개의 가장 자주 샘플링된 부분그래프를 유지하기 위해 유한 크기의 우선순위 큐를 사용하며, 샘플링 빈도에 따라 동적으로 업데이트한다.
• 샘플링 및 큐 삽입 중에 효율적인 이sovomorphism 검사를 위해 부분그래프에 캐논리컬 코드를 생성한다.
• Gelman-Rubin 진단을 기반으로 한 정지 기준을 도입하여, 다수의 샘플링 체인 간의 자카르 거리(Jaccard distance)를 측정하여 수렴 여부를 감지한다.
• 지역 이웃 통계를 기반으로 한 점수 함수를 적용하여 전체 부분그래프 이sovomorphism 검사에 대한 의존도를 줄인다.
• 샘플링 시간에 비해 무시할 만한 수준의 캐논리컬 코드 생성 및 큐 삽입 오버헤드를 최소화하여 성능을 최적화한다.

실험 결과

연구 질문

• RQ1 대규모 그래프에서 런타임과 확장성 측면에서 샘플링 기반 접근이 정확한 FSM 알고리즘을 능가할 수 있는가?
• RQ2 비균일한 목표 분포(점수 함수 $ s_1 $ 또는 $ s_2 $ 기반)를 사용한 MCMC 샘플링이 균일 샘플링에 비해 상위 k개의 빈도 높은 부분그래프 복구 정밀도를 향상시키는가?
• RQ3 우선순위 큐의 크기가 상위 k개 부분그래프 복구의 정확도와 메모리 사용량에 어떤 영향을 미치는가?
• RQ4 수렴 기반 정지 기준(Gelman-Rubin 진단)이 충분한 샘플링이 수행되었는지를 효과적으로 판단할 수 있는가?
• RQ5 다양한 부분그래프 공간 복잡도를 가진 다양한 그래프 데이터셋에서 FS³의 성능은 얼마나 견고한가?

주요 결과

• PS 데이터셋에서 FS³는 $ s_2 $ 점수 함수를 사용해 70분 이내에 54.2% pr@500를 달성했으며, 동일한 시간 내에 균일 샘플링(52.3% pr@500)보다 뚜렷하게 뛰어난 성능을 보였다.
• PS 데이터셋에서 부분그래프 크기가 8인 경우, Mutagen 데이터셋에서 10분 이내에 90% 이상의 pr@500를 달성하여 더 작은 부분그래프 공간에서 강력한 성능을 보였다.
• 추정된 부분그래프 지지도와 실제 지지도 간의 켄들 타우 상관계수는 일관되게 높았으며(예: 2.0 목표 분포 기준 55.4), 강한 순위 상관관계를 보였다.
• 런타임은 부분그래프 크기 $ p $ 에 따라 거의 선형적으로 증가했으며, 샘플링 시간이 실행 시간의 대부분을 차지했고, 큐 삽입 오버헤드는 무시할 만했다.
• $ k $ 값(100에서 500)에 관계없이 성능이 안정적이었으며, 정밀도와 켄들 타우 값은 최소한의 변동을 보여 $ k $ 에 대한 강건성을 확인했다.
• Gelman-Rubin 진단은 반복 횟수에 따라 체인 간 자카르 거리가 감소하는 경향을 보였으며, 이는 수렴을 확인하고 정지 기준의 타당성을 검증했다.