[论文解读] Combating Informational Denial-of-Service (IDoS) Attacks: Modeling and Mitigation of Attentional Human Vulnerability

Linan Huang, Quanyan Zhu|arXiv (Cornell University)|Aug 4, 2021

Smart Grid Security and Resilience参考文献 16被引用 7

一句话总结

本文提出了一种信息性拒绝服务（IDoS）攻击，通过向操作员施加大量虚假信号以利用人类注意力的局限性，从而隐藏真实攻击。提出了一种基于数据的注意力管理（AM）策略，结合半马尔可夫建模与时序差分学习，以减轻认知负荷，表明对部分警报采取有意忽略可最小化风险——形式化了‘理性风险降低忽略法则’。

ABSTRACT

This work proposes a new class of proactive attacks called the Informational Denial-of-Service (IDoS) attacks that exploit the attentional human vulnerability. By generating a large volume of feints, IDoS attacks deplete the cognitive resources of human operators to prevent humans from identifying the real attacks hidden among feints. This work aims to formally define IDoS attacks, quantify their consequences, and develop human-assistive security technologies to mitigate the severity level and risks of IDoS attacks. To this end, we use the semi-Markov process to model the sequential arrivals of feints and real attacks with category labels attached in the associated alerts. The assistive technology strategically manages human attention by highlighting selective alerts periodically to prevent the distraction of other alerts. A data-driven approach is applied to evaluate human performance under different Attention Management (AM) strategies. Under a representative special case, we establish the computational equivalency between two dynamic programming representations to reduce the computation complexity and enable online learning with samples of reduced size and zero delays. A case study corroborates the effectiveness of the learning framework. The numerical results illustrate how AM strategies can alleviate the severity level and the risk of IDoS attacks. Furthermore, the results show that the minimum risk is achieved with a proper level of intentional inattention to alerts, which we refer to as the law of rational risk-reduction inattention.

研究动机与目标

• 正式定义并量化利用人类注意力脆弱性的IDoS攻击的严重性与风险。
• 解决在高风险环境中，人类操作员成为智能佯攻型攻击目标时的警报疲劳问题。
• 开发主动管理注意力的人机协同安全技术，以提升检测准确率并减少响应延迟。
• 建立计算框架，实现实时、低复杂度的学习，以应对不确定环境下的动态注意力管理。
• 识别在检查质量与数量之间实现平衡的最优注意力管理策略，以最小化网络风险。

提出的方法

• 将IDoS攻击序列建模为带有类别标签警报（佯攻或真实）的半马尔可夫过程，以捕捉时间动态特性。
• 使用动态规划与时序差分（TD）学习，实时评估长期成本并估计价值函数。
• 提出注意力管理（AM）策略，定期仅突出显示选定警报，使其他警报不显眼，以减少干扰。
• 证明累积成本（CC）与聚合累积成本（ACC）表示之间的计算等价性，以降低状态空间维度与复杂度。
• 采用数据驱动方法，利用实时检查时间与决策准确率指标，评估不同AM策略下的人类表现。
• 引入不确定性成本与检查奖励，以建模人类决策中速度、准确率与风险之间的权衡。

实验结果

研究问题

• RQ1 攻击到达率与检查效率阈值的乘积如何影响IDoS攻击的严重性与风险？
• RQ2 为最小化聚合IDoS风险，应如何在检查警报数量与检查深度之间取得最优平衡？
• RQ3 注意力管理策略是否能降低IDoS攻击的严重性水平，同时保持或提升检测准确率？
• RQ4 在何种条件下，对某些警报采取有意忽略可导致整体风险降低？其理论基础为何？
• RQ5 如何将动态规划与时序差分学习方法适配，以实现在人机协同安全系统中低延迟、在线学习？

主要发现

• IDoS攻击的严重性水平随攻击到达率与检查效率阈值乘积的增加呈指数增长。
• 当突出显示的警报数量（m）足够大时，注意力管理（AM）策略可将严重性水平降低至0.04，且与到达率无关。
• 当不确定性成本较低（cUN = 0.2）时，聚合IDoS风险随m呈现U型曲线，表明在某一最优的有意忽略水平下风险最小。
• 当不确定性成本较高（cUN = 20）时，最优策略转向‘广撒网式’——尽可能检查更多警报，因为深度检查的可靠性较低。
• 最小聚合风险出现在中等程度的检查深度下，验证了‘理性风险降低忽略法则’，即适度减少检查反而能获得更优结果。
• CC/ECC与ACC/EACC表示之间的计算等价性降低了状态空间维度，实现了零延迟在线学习并减少了样本需求。