[논문 리뷰] INADVERT: An Interactive and Adaptive Counterdeception Platform for Attention Enhancement and Phishing Prevention.

Linan Huang, Quanyan Zhu|arXiv (Cornell University)|2021. 06. 13.

Spam and Phishing Detection참고 문헌 21인용 수 4

한 줄 요약

INADVERT는 실시간 눈동자 추적과 강화학습을 활용해 사용자의 주의를 향상시키고 피싱 공격을 방지하는 상호작용적이고 적응형 플랫폼이다. 눈동자 데이터를 분석하고 베이지안 최적화를 통해 초모수를 최적화함으로써 사용자의 피싱 인식 정확도를 향상시키면서도 주의력의 변동에 적응한다.

ABSTRACT

Deceptive attacks exploiting the innate and the acquired vulnerabilities of human users have posed severe threats to information and infrastructure security. This work proposes INADVERT, a systematic solution that generates interactive visual aids in real-time to prevent users from inadvertence and counter visual-deception attacks. Based on the eye-tracking outcomes and proper data compression, the INADVERT platform automatically adapts the visual aids to the user's varying attention status captured by the gaze location and duration. We extract system-level metrics to evaluate the user's average attention level and characterize the magnitude and frequency of the user's mind-wandering behaviors. These metrics contribute to an adaptive enhancement of the user's attention through reinforcement learning. To determine the optimal hyper-parameters in the attention enhancement mechanism, we develop an algorithm based on Bayesian optimization to efficiently update the design of the INADVERT platform and maximize the accuracy of the users' phishing recognition.

연구 동기 및 목표

• 정보보안 분야에서 인간의 인지적 취약점을 악용하는 기만적 공격의 증가 추세를 다루기 위해.
• 사용자의 정신산만 및 무관심 상태를 사전에 탐지하고 완화할 수 있는 시스템을 개발하기 위해.
• 눈동자 추적을 통해 유저의 주의 상태를 유추해 실시간으로 시각 보조 기능을 적응적으로 조정할 수 있도록 하기 위해.
• 베이지안 최적화를 활용해 주의력 향상 메커니즘의 초모수를 최적화하여 피싱 탐지 정확도를 향상시키기 위해.

제안 방법

• 사용자의 주의를 나타내는 지표로 눈동자 위치와 지속 시간을 실시간으로 모니터링하기 위해 실시간 눈동자 추적 데이터를 활용한다.
• 시스템 반응성을 확보하기 위해 눈동자 데이터를 효율적으로 처리하고 분석하기 위해 데이터 압축 기법을 적용한다.
• 평균 주의 수준과 정신산만의 빈도/지속 시간을 정량화하기 위해 시스템 수준의 메트릭을 추출한다.
• 실시간 주의 피드백에 기반해 시각 보조 기능을 동적으로 조정하기 위해 강화학습을 적용한다.
• 주의력 향상 메커니즘의 초모수를 자동으로 튜닝하기 위해 베이지안 최적화를 구현한다.
• 실시간으로 시각적 기만 공격에 대응하기 위해 플랫폼에 시각 보조 기능 생성 기능을 통합한다.

실험 결과

연구 질문

• RQ1 실시간 눈동자 추적을 어떻게 활용해 피싱 시뮬레이션 중 사용자의 무관심을 탐지하고 대응할 수 있는가?
• RQ2 상호작용적 보안 작업에서 사용자의 주의 및 정신산만 행동을 가장 잘 특징짓는 시스템 수준의 메트릭은 무엇인가?
• RQ3 강화학습을 통해 적응형 시각 피드백을 제공함으로써 사용자의 주의력과 피싱 인식 정확도를 얼마나 향상시킬 수 있는가?
• RQ4 베이지안 최적화가 주의력 향상 메커니즘의 설계 및 성능에 어떻게 기여하는가?

주요 결과

• 플랫폼은 고정 지속 시간 및 눈동자 위치 패턴과 같은 눈동자 기반 메트릭을 활용해 사용자 주의력 떨어짐을 성공적으로 식별했다.
• 강화학습을 통해 시각 보조 기능이 동적으로 조정되어 사용자 주의력 안정성 향상에 측정 가능한 기여를 했다.
• 베이지안 최적화를 통해 주의력 향상 메커니즘의 최적 초모수를 효율적으로 식별하여 수동 튜닝을 줄였다.
• 개별 사용자의 주의 상태에 맞춰 조정된 실시간 시각 피드백을 통해 시스템이 피싱 인식 정확도를 향상시켰다.