[논문 리뷰] Feature-Based Classification of Networks

Ian Barnett, Nishant Malik외 3명|arXiv (Cornell University)|2016. 10. 19.

Complex Network Analysis Techniques참고 문헌 17인용 수 11

한 줄 요약

이 논문은 수작업으로 선택한 네트워크 특징—예를 들어, 차수의 순응성, 군집 계수, 중심성 측정값—과 랜덤 포레스트와 같은 자동화된 기계 학습 분류기들을 결합한 하이브리드 네트워크 분류 접근법을 제안한다. 이 방법은 순수 수작업 또는 완전 자동화된 방법에 비해 높은 분류 정확도, 향상된 해석 가능성, 더 빠른 계산 성능를 달성하며, 주중과 주말에 따라 분류되는 사회적 네트워크와 암 유형에 따라 분류되는 생물학적 네트워크에서 뛰어난 성능을 보여준다.

ABSTRACT

Network representations of systems from various scientific and societal domains are neither completely random nor fully regular, but instead appear to contain recurring structural building blocks. These features tend to be shared by networks belonging to the same broad class, such as the class of social networks or the class of biological networks. At a finer scale of classification within each such class, networks describing more similar systems tend to have more similar features. This occurs presumably because networks representing similar purposes or constructions would be expected to be generated by a shared set of domain specific mechanisms, and it should therefore be possible to classify these networks into categories based on their features at various structural levels. Here we describe and demonstrate a new, hybrid approach that combines manual selection of features of potential interest with existing automated classification methods. In particular, selecting well-known and well-studied features that have been used throughout social network analysis and network science and then classifying with methods such as random forests that are of special utility in the presence of feature collinearity, we find that we achieve higher accuracy, in shorter computation time, with greater interpretability of the network classification results.

연구 동기 및 목표

• 순수 수작업 또는 완전 자동화된 네트워크 분류 방법의 한계를 해결하기 위해, 저조한 정확도 또는 낮은 해석 가능성 문제를 해결한다.
• 분야 특화 지식을 특징 선택에 활용하면서도 자동화된 분류의 이점을 얻을 수 있는 확장 가능하고 해석 가능한 방법을 개발한다.
• 의미 있는 구조적 특징과 강력한 기계 학습 모델을 조합하여 실제 네트워크 데이터셋에서의 분류 정확도를 향상시킨다.
• 사회적 소통 네트워크와 생물학적 조절 네트워크를 포함한 다양한 분야에서 이 방법의 효과성을 입증한다.
• 네트워크 특징 간 상관관계(일반적으로 네트워크 특징에서 발생하는 현상)가 랜덤 포레스트와 같은 분류기로 효과적으로 관리될 수 있음을 보여준다.

제안 방법

• 사회 네트워크 분석 및 네트워크 과학 분야에서 잘 알려진 특징들—예를 들어 차수, 베타이너스 중심성, 모티프 수, 군집 계수—를 수작업으로 선택한다.
• 사회 네트워크에서 성별, 연령, 지리적 근접성(예: 우편번호)과 같은 노드 속성을 추가 특징으로 통합한다.
• 특징 간 상관관계에 강건하고 특징 중요도 순위를 매길 수 있는 능력을 지닌 랜덤 포레스트를 분류 엔진으로 사용한다.
• 차수와 군집 분포와 같은 상관관계가 높은 특징의 차원을 줄이기 위해 주성분 분석(PCA)을 적용한다.
• 네트워크 크기의 다양성에 걸쳐 분류기의 안정성과 일반화 능력을 평가하기 위해 서브샘플링 전략(예: 스노우볼 및 우편번호 기반 샘플링)을 사용한다.
• 분류 성능를 비교하기 위한 기준선으로서, 특징 벡터(예: 차수 분포, 국소 군집)를 사용한 k-means 군집화를 적용한다.

실험 결과

연구 질문

• RQ1 수작업 특징 선택과 자동화된 분류를 조합한 하이브리드 접근법이 순수 수작업 또는 완전 자동화된 방법보다 네트워크 분류에서 뛰어난 성능을 보일 수 있는가?
• RQ2 성별, 연령, 위치와 같은 노드 속성의 포함이 사회 네트워크의 분류 정확도에 어떤 영향을 미치는가?
• RQ3 높은 상관관계를 가지는 네트워크 특징들이 기계 학습 분류기에서 성능 저하 없이 얼마나 효과적으로 활용될 수 있는가?
• RQ4 실제 소통 데이터에서 시간 패턴(예: 평일 대비 주말)에 따라 네트워크를 분류하는 데 이 방법이 얼마나 잘 작동하는가?
• RQ5 조절 네트워크 특징을 사용하여 이 방법이 생물학적 네트워크를 종양 유형에 따라 정확하게 구분할 수 있는가?

주요 결과

• 랜덤 포레스트를 사용한 하이브리드 방법은 COLLAB 데이터셋에서 76.5%의 분류 정확도를 달성했으며, KNN(72.69%) 및 기타 분류기보다 뛰어난 성능을 보였다.
• IMDB-BINARY 데이터셋에서는 72.4%의 정확도와 4.69%의 표준 오차를 기록하여 이질적인 네트워크 데이터에서 강력한 성능을 보였다.
• REDDIT-BINARY 데이터셋에서는 88.7%의 정확도를 기록했으며, KNN(87.63%) 및 기타 모델보다 뚜렷하게 뛰어난 성능을 보였다.
• 주중과 주말에 따라 분류하는 사회 네트워크의 경우, 표 5의 특징(예: 차수 분포, 군집)을 사용한 방법이 높은 정확도를 달성했으며, 특징의 풍부함이 증가할수록 잘못 분류된 비율이 감소했다.
• 차수와 군집 분포의 주성분을 사용함으로써 중복을 줄이고 모델의 안정성을 향상시켰으며, 특히 서브샘플된 네트워크에서 효과적이었다.
• 서브샘플된 네트워크에 기반한 랜덤 포레스트 분류기는 일관된 성능을 보였으며, 부드러운 회귀 피팅을 통해 다양한 네트워크 크기에서 신뢰할 수 있는 일반화 능력을 보였다.