[논문 리뷰] Certified Robustness of Community Detection against Adversarial Structural Perturbation via Randomized Smoothing

Jinyuan Jia, Binghui Wang외 2명|arXiv (Cornell University)|2020. 02. 09.

Complex Network Analysis Techniques참고 문헌 42인용 수 7

한 줄 요약

이 논문은 이진 그래프 데이터에 대한 랜덤화 스무딩을 사용하여 구조적 공격에 대한 공동 탐지에 대한 첫 번째 인증 가능 강건성 프레임워크를 제안한다. 이는 최대 인증 가능한 수의 간선이 적대적으로 수정된 경우에도 노드 집합이 동일하거나 다른 공동체에 속해 있음을 보장하는 증명 가능한 보장을 수립하며, 제안된 이산 노이즈 모델 하에서 이 경계가 날카롭게 조밀해짐을 입증한다.

ABSTRACT

Community detection plays a key role in understanding graph structure. However, several recent studies showed that community detection is vulnerable to adversarial structural perturbation. In particular, via adding or removing a small number of carefully selected edges in a graph, an attacker can manipulate the detected communities. However, to the best of our knowledge, there are no studies on certifying robustness of community detection against such adversarial structural perturbation. In this work, we aim to bridge this gap. Specifically, we develop the first certified robustness guarantee of community detection against adversarial structural perturbation. Given an arbitrary community detection method, we build a new smoothed community detection method via randomly perturbing the graph structure. We theoretically show that the smoothed community detection method provably groups a given arbitrary set of nodes into the same community (or different communities) when the number of edges added/removed by an attacker is bounded. Moreover, we show that our certified robustness is tight. We also empirically evaluate our method on multiple real-world graphs with ground truth communities.

연구 동기 및 목표

• 적대적 구조적 편향 하에서 공동 탐지에 대한 공식적인 강건성 보장을 부족한 문제를 해결한다.
• 제한된 간선 추가 또는 제거가 발생하더라도 공동체 할당을 보장하는 인증 가능한 강건성 프레임워크를 개발한다.
• 이전에 연속 데이터에 사용된 바 있었던 랜덤화 스무딩을 의미 있는 이산 노이즈를 갖는 이진 그래프 구조로 확장한다.
• 노드 집합에 대한 분할 및 병합 공격에 대해 가장 날카로운 인증 가능한 편향 크기 임계값을 제공한다.
• 실세계 그래프에서 참값 공동체가 존재하는 경우에 메서드의 효과성을 입증한다.

제안 방법

• 기본 공동 탐지 방법에 의해 주어진 노드 집합이 동일한 공동체에 속해 있으면 1을 출력하고, 그렇지 않으면 0을 출력하는 이진 분류 함수 f를 정의한다.
• 이산 랜덤 간선 편향(랜덤으로 간선 추가 또는 제거)을 사용하여 그래프 구조에 랜덤화 스무딩을 적용함으로써 스무딩 함수 g를 구성한다.
• 이진 데이터에 적합하게 수정된 네이만-피어슨 렘마의 새로운 변형을 사용하여 스무딩 함수 g에 대한 통계적 인증 절차를 유도한다.
• 스무딩 분포 하에서 엄밀한 통계적 추론을 가능하게 하기 위해 함수 f의 결과에 기반해 그래프 구조 공간을 영역으로 분할한다.
• 스무딩 함수 g가 높은 신뢰도로 동일한 출력을 유지하는 최대 간선 수정 수(추가/제거)로 인증 가능한 편향 크기를 계산한다.
• 몬테카를로 샘플링을 활용하여 스무딩 함수의 출력을 추정하고, 인증을 위한 신뢰구간을 유도한다.

실험 결과

연구 질문

• RQ1 적대적 구조적 편향에 대한 공동 탐지에 대해 공식적이고 인증 가능한 강건성 보장을 제공할 수 있는가?
• RQ2 가우시안 또는 라플라스 노이즈가 의미적으로 부적절한 이진 그래프 데이터에 대해 랜덤화 스무딩을 어떻게 적응시킬 수 있는가?
• RQ3 공동 탐지에서 노드 집합에 대한 분할 및 병합 공격에 대해 가장 날카로운 가능한 인증 가능한 편향 크기는 무엇인가?
• RQ4 기본 공동체 탐지 방법이 실패할 수 있는 상황에서도, 제안된 방법은 알려진 참값 공동체를 갖는 실세계 그래프에서 어떻게 성능을 발휘하는가?
• RQ5 스무딩 공동체 탐지 방법을 사용할 경우 강건성과 정확도 사이에 상충 관계가 존재하는가?

주요 결과

• 제안된 방법은 적대적 구조적 편향에 대한 공동 탐지에 대해 첫 번째 인증 가능한 강건성 보장을 달성한다.
• 제안된 이산 노이즈 모델을 사용할 경우, 인증 가능한 편향 크기가 증명적으로 날카로운 경계를 이룬다.
• 세 개의 실세계 데이터셋에서, 분할 및 병합 공격에 대해 인증된 임계값 이하에서는 메서드가 정확한 공동체 그룹화를 유지한다.
• 실증적 평가 결과, 기반 방법이 실패할 수 있는 상황에서도 스무딩된 방법이 제한된 적대적 간선 수정 하에서도 공동체 구조를 유지함을 보여준다.
• 인증 가능한 강건성의 확보는 기반 공동체 탐지 방법 대비 정확도가 약간 낮아질 수 있음을 시사하며, 강건성과 충실도 사이의 상충 관계를 나타낸다.
• 이 프레임워크는 아키텍처 변경 없이도 어떤 공동체 탐지 알고리즘에도 일반적으로 적용 가능하다.