[논문 리뷰] Discriminative Feature Selection for Uncertain Graph Classification

Xiangnan Kong, Philip S. Yu외 2명|arXiv (Cornell University)|2013. 01. 28.

Advanced Graph Neural Networks참고 문헌 22인용 수 4

한 줄 요약

이 논문은 신경영상 데이터셋인 ADNI, ADHD, HIV에서 뇌망 구조적 불확실성을 고려함으로써 분류 성능을 크게 향상시키기 위해, 동적 프로그래밍을 사용하여 통계적 측도(기대값, 중앙값, 최빈값, φ-확률)에 기반한 분류 점수의 정확한 확률 분포를 계산하는 Dug라는 새로운 방법을 제안한다. 이 방법은 불확실한 그래프에서 분류 가능한 부분그래프 기능을 선택하기 위한 효율적인 브랜치 앤 바운드 탐색을 가능하게 한다.

ABSTRACT

Mining discriminative features for graph data has attracted much attention in recent years due to its important role in constructing graph classifiers, generating graph indices, etc. Most measurement of interestingness of discriminative subgraph features are defined on certain graphs, where the structure of graph objects are certain, and the binary edges within each graph represent the "presence" of linkages among the nodes. In many real-world applications, however, the linkage structure of the graphs is inherently uncertain. Therefore, existing measurements of interestingness based upon certain graphs are unable to capture the structural uncertainty in these applications effectively. In this paper, we study the problem of discriminative subgraph feature selection from uncertain graphs. This problem is challenging and different from conventional subgraph mining problems because both the structure of the graph objects and the discrimination score of each subgraph feature are uncertain. To address these challenges, we propose a novel discriminative subgraph feature selection method, DUG, which can find discriminative subgraph features in uncertain graphs based upon different statistical measures including expectation, median, mode and phi-probability. We first compute the probability distribution of the discrimination scores for each subgraph feature based on dynamic programming. Then a branch-and-bound algorithm is proposed to search for discriminative subgraphs efficiently. Extensive experiments on various neuroimaging applications (i.e., Alzheimer's Disease, ADHD and HIV) have been performed to analyze the gain in performance by taking into account structural uncertainties in identifying discriminative subgraph features for graph classification.

연구 동기 및 목표

• 그래프 구조와 분류 점수 둘 다 확률적인 불확실한 그래프 데이터에서 분류 가능한 부분그래프 기능을 식별하는 데 도전하는 것.
• 근사치에 의존하지 않고 다양한 통계 측도에 기반한 분류 점수의 정확한 확률 분포를 계산하는 방법을 개발하는 것.
• 동적 프로그래밍과 브랜치 앤 바운드 가지치기 기법을 통합하여 불확실한 그래프에서 효율적인 부분그래프 탐색을 가능하게 하는 것.
• 뇌망의 구조적 불확실성을 모델링하여 실제 신경영상 응용 분야에서 그래프 분류 성능을 향상시키는 것.
• 공통된 노드 집합과 확률적 간선이 일반적인 다양한 불확실한 그래프 데이터셋에 적용 가능한 일반적인 프레임워크를 제공하는 것.

제안 방법

• Dug는 불확실한 그래프 구조와 클래스 레이블에 기반하여 동적 프로그래밍을 사용해 각 부분그래프 기능에 대한 분류 점수의 정확한 확률 분포를 계산한다.
• 이 방법은 분류 가능성 평가에 다양한 통계 측도—기대값, 중앙값, 최빈값, φ-확률—를 지원한다.
• 고려할 만한 잠재력이 높은 부분그래프만을 대상으로 하기 위해, 효율적인 탐색 공간을 줄이기 위해 브랜치 앤 바운드 알고리즘이 사용된다.
• 모든 그래프에서 공통된 노드 집합을 가정하여 실제 신경영상 데이터에서 주어진 환자 간 뇌 영역이 일관되게 유지됨을 모델링한다.
• 대규모 데이터셋에서의 계산 비용을 줄이기 위해 분할 정복 전략을 활용해 부분그래프 열거를 최적화한다.
• 모든 가능한 세계(world)에 걸쳐 부분그래프 포함 확률을 평가하여, 구조적 불확실성에 대한 강건성을 보장한다.

실험 결과

연구 질문

• RQ1 그래프 구조와 분류 점수 둘 다 확률적인 불확실한 그래프에서 분류 가능한 부분그래프 기능을 효과적으로 식별할 수 있는가?
• RQ2 기대값, 중앙값, 최빈값, φ-확률 등 다양한 통계 측도 중에서 구조적 불확실성 하에서 부분그래프의 분류 잠재력을 가장 잘 포괄하는 것은 무엇인가?
• RQ3 동적 프로그래밍을 사용해 불확실한 그래프 데이터셋에서 부분그래프의 분류 점수에 대한 정확한 확률 분포를 계산할 수 있는가?
• RQ4 신경영상 응용 분야(예: 알츠하이머병, ADHD)에서 구조적 불확실성을 고려함으로써 분류 성능가 향상되는가?
• RQ5 무작위 전수 탐색이나 근사 방법에 비해 제안된 방법의 계산 효율성은 어떠한가?

주요 결과

• Dug는 불확실성을 모델링함으로써 신경영상 데이터셋(ADNI, ADHD, HIV)에서 분류 성능을 크게 향상시켜, 불확실성을 忽시하는 기존 방법들을 능가한다.
• 동적 프로그래밍 구성 요소는 근사치 방법이 사용된 이전 연구와는 달리 분류 점수 분포의 정확한 계산을 가능하게 하여 정확도를 향상시킨다.
• 가지치기 기반의 브랜치 앤 바운드 탐색은 계산 비용을 줄이며, 알고리즘은 데이터셋 내 그래프 수에 거의 선형적으로 확장된다.
• 실험 결과, 그림 2의 g3와 같은 부분그래프는 불확실성 하에서 더 높은 분류 능력을 보이며, 반면 g2와 같은 다른 부분그래프는 간선 확률을 고려할 경우 기능을 상실함을 확인했다.
• 모든 가능한 세계를 전수 탐색하는 방법은 작은 데이터셋(예: 40개의 그래프)에서도 실패함을 확인하여, 제안된 최적화 기법의 必요성을 입증한다.
• 파라미터 분석(그림 7)은 φ-확률이 오차율과 F1 점수 사이의 우수한 트레이드오프를 제공함을 보여주어 실용적 응용에서의 유용성을 뒷받침한다.