[논문 리뷰] Web spam classification using supervised artificial neural network algorithms

Ashish Chandra, Mohammad Suaib외 1명|arXiv (Cornell University)|2015. 02. 12.

Network Security and Intrusion Detection참고 문헌 7인용 수 5

한 줄 요약

이 논문은 현대 웹 스팸을 분류하기 위해 공액 기울기, 복원 백프로파게이션, 레벤버그-마르카르트 최적화 알고리즘을 사용하는 지도 학습 기반 인공 신경망(ANN) 접근법을 제안한다. 복잡한 스팸 패턴에서의 성능을 평가하여, 레벤버그-마르카르트 알고리즘이 가장 높은 정확도와 가장 빠른 수렴 속도를 보이며, 동적 환경에서의 적응형이고 일반적인 웹 스팸 탐지에 효과적임을 입증한다.

ABSTRACT

Due to the rapid growth in technology employed by the spammers, there is a need of classifiers that are more efficient, generic and highly adaptive. Neural Network based technologies have high ability of adaption as well as generalization. As per our knowledge, very little work has been done in this field using neural network. We present this paper to fill this gap. This paper evaluates performance of three supervised learning algorithms of artificial neural network by creating classifiers for the complex problem of latest web spam pattern classification. These algorithms are Conjugate Gradient algorithm, Resilient Backpropagation learning, and Levenberg-Marquardt algorithm.

연구 동기 및 목표

• 보다 정교한 웹 스팸 문제에 대응하기 위해 더 적응형이고 일반적인 분류기 개발을 위해.
• 현대 웹 스팸 탐지에서 세 가지 지도 학습 기반 인공 신경망 학습 알고리즘의 성능을 평가하기 위해.
• 복잡하고 변화하는 스팸 패턴을 다루는 데 가장 효과적인 ANN 최적화 방법을 특정하기 위해.
• 이 분야에서 이전 연구가 제한적으로 이루어졌다는 점을 감안할 때, 신경망을 웹 스팸 분류에 적용하는 데 있어 연구 격차를 메우기 위해.

제안 방법

• 연구는 레이블이 부여된 웹 스팸 및 비스팸 데이터를 사용한 지도 학습을 통해 피드포워드 다층 신경망 아키텍처를 사용한다.
• 신경망 학습에 세 가지 최적화 알고리즘—공액 기울기, 복원 백프로파게이션, 레벤버그-마르카르트—를 사용한다.
• 레벤버그-마르카르트 알고리즘은 오차 함수를 효율적으로 최소화하기 위해 가우스-뉴턴 근사법을 적용한다.
• 복원 백프로파게이션은 각 가중치에 대해 국소 기울기 부호에 따라 학습률을 조정함으로써 수렴 안정성을 향상시킨다.
• 공액 기울기는 표준 백프로파게이션보다 수렴 속도를 높이기 위해 공액 방향 방법을 사용한다.
• 성능 평가는 정확도, 수렴 속도, 일반화 능력과 같은 표준 지표를 사용하여 평가된다.

실험 결과

연구 질문

• RQ1 어느 지도 학습 기반 인공 신경망 알고리즘이 현대 웹 스팸 패턴을 분류하는 데 가장 우수한 성능을 보이는가?
• RQ2 공액 기울기, 복원 백프로파게이션, 레벤버그-마르카르트 알고리즘이 웹 스팸 탐지에서 수렴 속도와 정확도 측면에서 어떻게 비교되는가?
• RQ3 신경망 기반 분류기는 복잡하고 변화하는 스팸 패턴에 잘 일반화될 수 있는가?
• RQ4 전통적 방법에 비해 신경망은 웹 스팸의 동적 특성에 얼마나 잘 적응할 수 있는가?

주요 결과

• 레벤버그-마르카르트 알고리즘이 테스트한 세 알고리즘 중에서 가장 높은 분류 정확도를 달성했다.
• 레벤버그-마르카르트 알고리즘이 가장 빠른 수렴 속도를 보이며 훈련 시간을 크게 단축시켰다.
• 복원 백프로파게이션은 안정적인 수렴을 보였지만, 레벤버그-마르카르트보다 느렸다.
• 공액 기울기는 수렴 속도와 정확도 사이의 균형을 잘 유지하며 중간 수준의 성능을 보였다.
• 신경망 기반 분류기는 복잡하고 변화하는 스팸 패턴을 다루는 데 기존 방법보다 뛰어난 성능을 보였다.
• 이 연구는 지도 학습 기반 ANN이 실제 웹 스팸 분류 작업에 매우 효과적이고 적응형임을 확인한다.