[논문 리뷰] Adversarial Classification on Social Networks

Sixie Yu, Yevgeniy Vorobeychik외 1명|arXiv (Cornell University)|2018. 01. 24.

Misinformation and Its Impacts참고 문헌 24인용 수 7

한 줄 요약

이 논문은 사회적 네트워크에서 악성 콘텐츠의 공격자 방지 탐지에 대해 스택엘베르크 게임 기반 프레임워크를 제안한다. 이는 공격자 행동(콘텐츠 및 노드 선택)과 방어자 전략(이질적이고 네트워크 인식 기반 탐지기)을 모두 모델링한다. 은닉 기울기 방법을 사용하는 새로운 이중 최적화 기법을 도입하여, 다양한 네트워크 구조에서 악성 콘텐츠의 확산을 현저히 줄이는 데 성공했으며, 기존의 동일한 특성을 가진 탐지 기법과 비대칭 탐지 기법보다 뛰어난 성능을 보였다.

ABSTRACT

The spread of unwanted or malicious content through social media has become a major challenge. Traditional examples of this include social network spam, but an important new concern is the propagation of fake news through social media. A common approach for mitigating this problem is by using standard statistical classification to distinguish malicious (e.g., fake news) instances from benign (e.g., actual news stories). However, such an approach ignores the fact that malicious instances propagate through the network, which is consequential both in quantifying consequences (e.g., fake news diffusing through the network), and capturing detection redundancy (bad content can be detected at different nodes). An additional concern is evasion attacks, whereby the generators of malicious instances modify the nature of these to escape detection. We model this problem as a Stackelberg game between the defender who is choosing parameters of the detection model, and an attacker, who is choosing both the node at which to initiate malicious spread, and the nature of malicious entities. We develop a novel bi-level programming approach for this problem, as well as a novel solution approach based on implicit function gradients, and experimentally demonstrate the advantage of our approach over alternatives which ignore network structure.

연구 동기 및 목표

• 사회적 네트워크를 통해 퍼지는 악성 콘텐츠를 탐지하는 데 있어 전통적인 동일한 특성의 분류기의 한계를 해결하기 위해.
• 방어자가 탐지기를 배치하고, 공격자가 탐지를 피하기 위해 시작 노드와 콘텐츠를 선택하는 전략적 상호작용을 모델링하기 위해.
• 탐지 과정의 강건성을 향상시키기 위해 네트워크 구조와 콘텐츠 특성에 기반한 확산 역학을 통합하기 위해.
• 은닉 함수 기울기를 사용하여 공격자 환경에서의 이중 최적화를 위한 확장 가능한 솔루션을 개발하기 위해.
• 실제 네트워크 구조에서 네트워크 인식 기반의 이질적 탐지 전략이 표준 기법보다 뛰어나게 성능을 높이는 것을 입증하기 위해.

제안 방법

• 방어자(탐지기 파라미터 선택)와 공격자(탐지를 피하기 위해 공격 노드와 콘텐츠 선택) 사이의 탐지 문제를 스택엘베르크 게임으로 수식화한다.
• 콘텐츠 특성에 기반한 확산을 함수로 모델링하여, 기존의 영향력 모델을 콘텐츠 의존적 확산을 반영하도록 확장한다.
• 방어자의 문제를 이중 최적화로 표현한다: 상위 수준은 탐지기 파라미터를 선택하고, 하위 수준은 공격자의 최적 반응을 계산한다.
• KKT 조건을 적용하여 이중 최적화 문제를 단일 최적화 문제로 압축한다.
• 효율적인 최적화를 위해 명시적 및 은닉 기울기 정보를 모두 활용한 사영 기울기 강하 알고리즘을 도출한다.
• 공격 노드가 알려진 제한된 변형 문제의 해를 활용하여 전체 문제를 히우리스틱 방법으로 해결한다.

실험 결과

연구 질문

• RQ1 탐지기 설계에 네트워크 구조를 통합할 경우, 사회적 네트워크에서의 공격자 대응 콘텐츠 탐지 성능에 어떤 영향을 미치는가?
• RQ2 전략적 공격자가 존재하는 상황에서 콘텐츠 의존적 확산의 영향은 탐지 전략의 효과성에 어떤 영향을 미치는가?
• RQ3 악성 콘텐츠의 진화에 대응하여 방어자의 이질적이고 노드 기반의 탐지 전략은 동일한 특성 또는 개인화된 임계값 접근 방식보다 뛰어나게 성능을 높일 수 있는가?
• RQ4 방어자가 악성 콘텐츠 수정을 사전에 예측하고 대응할 수 있는 능력이 전체 네트워크 수준의 보호 수준에 어떤 영향을 미치는가?
• RQ5 은닉 기울기를 사용하는 제안된 이중 최적화 프레임워크는 표준 공격자 훈련 또는 재훈련 방법에 비해 얼마나 더 강건한가?

주요 결과

• 제안된 방법은 동일한 특성 분류, 공격자 재훈련, 개인화된 임계값 조정과 같은 모든 기준 기법보다 뚜렷이 뛰어나며, 특히 공격자 예산이 높을수록 성능 향상이 두드러진다.
• 공격자 예산이 ε = 0.01일 경우, 제안된 방법과 다른 기법 간의 성능 격차가 특히 크게 나타나 강건성을 잘 보여준다.
• 도수 비균형성이 높은 스케일프리(바라바시-앨버트) 네트워크에서는 제안된 방법이 놀라운 내구성을 보였으며, 이는 노드 기반 탐지 전략의 가치를 극대화한다.
• 개인화된 임계값 조정이 전체 재훈련보다 성능이 뛰어나, 네트워크 구조 인식 능력이 공격자에 대한 강건성 자체보다 더 중요하다는 것을 시사한다.
• 스몰월드 네트워크에서는 스케일프리 네트워크만큼의 열악한 성능 저하가 발생하지 않았지만, 제안된 방법은 여전히 다른 기법보다 뚜렷한 성능 향상을 달성했다.
• BA 및 스몰월드 네트워크 양쪽 모두에서 제안된 방법은 뛰어난 성능 유지를 보였으며, 이는 다양한 네트워크 구조에 대한 일반화 능력을 확인한다.