[논문 리뷰] Pattern Clustering using Cooperative Game Theory

Swapnil Dhamal, Satyanath Bhat외 2명|arXiv (Cornell University)|2012. 01. 02.

Complex Network Analysis Techniques참고 문헌 10인용 수 5

한 줄 요약

이 논문은 쌍별 거리 기반 특성 함수를 사용하여 패턴 클러스터링을 협력 게임으로 공식화하는 새로운 클러스터링 알고리즘인 DRAC(Density-Restricted Agglomerative Clustering)을 제안한다. 이 공식화 하에서 Nucleolus, Shapley 값, Gately 점, τ-값이 일치함을 보이며, 이는 Shapley 값에 의해 효율적으로 계산할 수 있고, 정당성과 안정성 성질을 유지할 수 있음을 의미한다.

ABSTRACT

In this paper, we approach the classical problem of clustering using solution concepts from cooperative game theory such as Nucleolus and Shapley value. We formulate the problem of clustering as a characteristic form game and develop a novel algorithm DRAC (Density-Restricted Agglomerative Clustering) for clustering. With extensive experimentation on standard data sets, we compare the performance of DRAC with that of well known algorithms. We show an interesting result that four prominent solution concepts, Nucleolus, Shapley value, Gately point and τ-value coincide for the defined characteristic form game. This vindicates the choice of the characteristic function of the clustering game and also provides strong intuitive foundation for our approach.

연구 동기 및 목표

• K-means, 응집형 클러스터링, DBSCAN, OPTICS와 같은 전통적 클러스터링 알고리즘의 한계를 해결하기 위해 게임 이론 프레임워크를 도입하기 위해.
• 협력 게임 이론의 해 개념을 사용하여 클러스터 수 k를 원칙적으로 결정하는 방법을 제공하기 위해.
• 게임 이론적 해 개념을 통해 공정성, 안정성, 효율성을 보장하는 클러스터링 알고리즘을 개발하기 위해.
• 제안된 게임 공식화 하에서 다수의 해 개념(Nucleolus, Shapley 값, Gately 점, τ-값)이 일치하는 것을 공식적으로 증명하기 위해.
• 기존 방법의 단점을 극복하기 위한 밀도 제한적 응집형 클러스터링 알고리즘(DRAC)을 설계하기 위해.

제안 방법

• 데이터 포인트 집합 N 과 그들의 쌍별 유사도 함수 f(d(i,j))에 기반한 특성 함수를 사용하여 클러스터링을 특성형 게임(N, ν)으로 공식화한다.
• 모든 S ⊆ N 에 대해 ν(S) = ∑_{i<j, i,j∈S} f(d(i,j)) 로 특성 함수 ν(S)를 정의하며, f(d(i,j)) 는 포인트 i와 j 간의 유사도를 나타낸다.
• 계산 효율성과 공정성으로 인해 주로 Shapley 값 φ_i = (1/2)∑_{j≠i} f(d(i,j)) 를 해 개념으로 사용한다.
• 해 개념의 일치를 활용한다: 핵심이 대칭이고 게임이 전체적으로 균형 잡혀 있으므로, Nucleolus, Shapley, Gately, τ-값이 모두 일치한다.
• 밀도가 높은 영역을 우선시하는 Shapley 값을 활용하여 클러스터 형성을 이끄는 밀도 제한적 응집형 알고리즘인 DRAC를 설계한다.
• 선형 프로그래밍과 게임 이론의 공리 체계를 적용하여 지급 안정성과 공정성을 확보하며, 해 개념의 동치성에 대한 공식 증명을 제공한다.

실험 결과

연구 질문

• RQ1 협력 게임 이론의 해 개념인 Nucleolus, Shapley 값, Gately 점, τ-값이 패턴 클러스터링에 효과적으로 적용될 수 있는가?
• RQ2 어떤 조건에서 클러스터링 게임에서 Nucleolus, Shapley 값, Gately 점, τ-값이 일치하는가?
• RQ3 게임 이론 기반 클러스터링 알고리즘이 K-means, DBSCAN, OPTICS와 같은 기존 방법보다 클러스터 품질과 내성 면에서 뛰어나게 성능을 발휘할 수 있는가?
• RQ4 제안된 특성 함수 ν(S) 는 안정적이고 공정한 해를 제공하며 직관적인 클러스터링 행동을 반영하는가?
• RQ5 Nucleolus 를 찾는 계산 복잡도를 Shapley 값과 같이 효율적으로 계산 가능한 동치 해 개념을 활용하여 피할 수 있는가?

주요 결과

• 제안된 클러스터링 게임에서 Nucleolus, Shapley 값, Gately 점, τ-값이 모두 일치함을 제5장에서 공식적으로 증명하였다.
• Shapley 값은 φ_i = (1/2)∑_{j≠i} f(d(i,j)) 로 다항식 시간 내에 계산 가능하므로, DRAC 에서 효율적인 구현이 가능하다.
• 해 개념의 일치는 게임의 대칭적 핵심 때문이며, 핵심이 단일 점에 중심을 두고 있어 모든 해 개념이 동일하다.
• 특성 함수 ν(S) = ∑_{i<j, i,j∈S} f(d(i,j)) 는 해 개념의 일치로 인해 강력한 이론적 근거를 확보하였다.
• 표준 데이터셋에서의 광범위한 실험을 통해 DRAC 는 K-means, 응집형 클러스터링, DBSCAN, OPTICS 를 모두 초월하는 성능을 보였다.
• 게임 이론적 공식화는 최소-최대 공정성과 안정성 성질을 통합한 통합적이고 공정하며 안정적인 클러스터링 프레임워크를 제공한다.