[论文解读] A Game-Theoretic Foundation of Deception: Knowledge Acquisition and Fundamental Limits

Tao Zhang, Quanyan Zhu|arXiv (Cornell University)|Oct 1, 2018

Game Theory and Applications参考文献 5被引用 5

一句话总结

本文提出了一种博弈论信号模型，以形式化连续一维信息空间中的欺骗行为，将欺骗者（发送方）和被欺骗者（接收方）建模为具有非对称信息的战略参与者。该研究识别出一类部分混合完美贝叶斯纳什均衡（SLAPH），其中欺骗在低状态可能发生，而在高状态则发生混合。关键发现包括欺骗成本和利益冲突对可欺骗性及均衡稳定性的影响。

ABSTRACT

Deception is a technique to mislead human or computer systems by manipulating beliefs and information. Successful deception is characterized by the information-asymmetric, dynamic, and strategic behaviors of the deceiver and the deceivee. This paper proposes a game-theoretic framework of a deception game to model the strategic behaviors of the deceiver and deceivee and construct strategies for both attacks and defenses over a continuous one-dimensional information space. We use the signaling game model to capture the information-asymmetric, dynamic, and strategic behaviors of deceptions by modeling the deceiver as a privately-informed player called sender and the deceivee as an uninformed player called receiver. We characterize perfect Bayesian Nash equilibrium (PBNE) solution of the game and study the deceivability. We highlight the condition of deceivee's knowledge enhancement through evidences to maintain the equilibrium and analyze the impacts of direct deception costs and players' conflict of interest on the deceivability.

研究动机与目标

• 使用博弈论将欺骗形式化为欺骗者与被欺骗者之间的战略互动，且存在信息不对称。
• 在连续一维信息空间中，对双方玩家的动态行为与成本敏感性进行建模。
• 刻画欺骗博弈的完美贝叶斯纳什均衡（PBNE），并分析其结构特性。
• 识别欺骗可能发生或不可能发生的条件，并研究证据获取在维持均衡中的作用。
• 通过均衡分析，为基于欺骗的防御机制和反欺骗系统提供设计原则。

提出的方法

• 将欺骗过程建模为一个信号博弈，其中发送方（欺骗者）拥有私有信息，而接收方（被欺骗者）信息未知。
• 使用连续状态空间 θ ∈ [0,1]，其中私有信息服从均匀分布，且双方均以最小化成本为目标。
• 应用完美贝叶斯纳什均衡（PBNE）概念来刻画稳定的战略结果。
• 推导出一个微分方程（公式10），以基于欺骗成本 k 和利益冲突 b 求解发送方的最优信号策略 σ^S*(θ)。
• 引入接收方的概率性证据获取机制，以更新信念并影响决策，通过调查区域和后验概率进行建模。
• 通过分析临界阈值与成本-收益权衡，识别出一种新型均衡结构，称为 SLAPH（低状态分离，高状态混合）

实验结果

研究问题

• RQ1 在何种条件下，欺骗博弈存在稳定的完美贝叶斯纳什均衡？
• RQ2 欺骗成本与利益冲突如何影响均衡的存在性与结构？
• RQ3 信息空间的哪些区域具有可欺骗性或不可欺骗性，其判定依据是什么？
• RQ4 被欺骗者获取证据在多大程度上影响均衡稳定性以及欺骗者偏离的激励？
• RQ5 当利益冲突较低时，是否可能存在多个子可欺骗区域，而无需增加总欺骗成本？

主要发现

• 欺骗博弈存在一类称为 SLAPH（低状态分离，高状态混合）的部分混合均衡，该类均衡刻画了欺骗的战略边界。
• 当欺骗成本 k 相对于利益冲突 b 较低时，发送方偏好分离策略；当 k 较高时，混合策略成为最优，且随着 k/b 增大，临界状态 θ̂ 逐渐趋近于 1。
• 临界状态 θ̂ = 1 - (b/k)(1 - exp(-k/b)) 决定了可欺骗区域（低 θ）与不可欺骗区域（高 θ）之间的边界。
• 当 b = 1/8 且 k = 0.1 时，临界状态为 θ̂ = 0.3117，超过该值后，发送方采用混合策略 σ^S*(θ) = 1。
• 当真正率（true positive rates）为 0.9 时，证据获取将接收方的期望成本从 0.04 降低至 0.02，表明概率性证据在均衡维持中的价值。
• 完全不可欺骗区域并不存在；然而，当利益冲突较小时，可通过不增加欺骗成本的方式将多个子可欺骗区域进行划分。