[论文解读] INADVERT: An Interactive and Adaptive Counterdeception Platform for Attention Enhancement and Phishing Prevention.

Linan Huang, Quanyan Zhu|arXiv (Cornell University)|Jun 13, 2021

Spam and Phishing Detection参考文献 21被引用 4

一句话总结

INADVERT 是一个交互式、自适应平台，通过实时眼动追踪与强化学习技术，利用动态视觉辅助手段提升用户注意力并防止网络钓鱼攻击。通过分析眼动数据并利用贝叶斯优化调整超参数，该平台在适应注意力波动的同时，提高了用户对网络钓鱼的识别准确率。

ABSTRACT

Deceptive attacks exploiting the innate and the acquired vulnerabilities of human users have posed severe threats to information and infrastructure security. This work proposes INADVERT, a systematic solution that generates interactive visual aids in real-time to prevent users from inadvertence and counter visual-deception attacks. Based on the eye-tracking outcomes and proper data compression, the INADVERT platform automatically adapts the visual aids to the user's varying attention status captured by the gaze location and duration. We extract system-level metrics to evaluate the user's average attention level and characterize the magnitude and frequency of the user's mind-wandering behaviors. These metrics contribute to an adaptive enhancement of the user's attention through reinforcement learning. To determine the optimal hyper-parameters in the attention enhancement mechanism, we develop an algorithm based on Bayesian optimization to efficiently update the design of the INADVERT platform and maximize the accuracy of the users' phishing recognition.

研究动机与目标

• 应对日益严重的欺骗性攻击，此类攻击利用人类在信息安全中的认知脆弱性。
• 开发一种系统，主动检测并缓解用户在钓鱼场景中出现的走神与注意力不集中现象。
• 根据来自眼动追踪的用户注意力状态，实现实时自适应视觉辅助手段调整。
• 利用贝叶斯优化优化注意力增强机制，以提高网络钓鱼检测准确率。

提出的方法

• 利用实时眼动追踪数据，监测注视位置与持续时间，作为用户注意力的指标。
• 应用数据压缩技术，高效处理与分析眼动数据，以保证系统响应速度。
• 提取系统级指标，量化平均注意力水平以及走神的频率与持续时间。
• 采用强化学习，根据实时注意力反馈动态调整视觉辅助手段。
• 实施贝叶斯优化，自动调优注意力增强机制的超参数。
• 将视觉辅助生成功能集成到平台中，以实时应对视觉欺骗性攻击。

实验结果

研究问题

• RQ1 如何利用实时眼动追踪检测并响应用户在钓鱼模拟过程中出现的注意力不集中？
• RQ2 哪些系统级指标最能表征用户在交互式安全任务中的注意力与走神行为？
• RQ3 强化学习在通过自适应视觉反馈提升用户注意力与网络钓鱼识别准确率方面，能实现多大程度的改善？
• RQ4 贝叶斯优化如何提升注意力增强机制的设计与性能？

主要发现

• 该平台成功利用基于眼动的指标（如注视持续时间与注视位置模式）识别出用户的注意力中断。
• 强化学习实现了视觉辅助手段的动态自适应，显著提升了用户注意力的稳定性。
• 贝叶斯优化高效识别出注意力增强机制的最优超参数，减少了人工调优工作。
• 通过根据个体注意力状态实时定制的视觉反馈，系统显著提升了网络钓鱼识别准确率。