[論文レビュー] A Game-Theoretic Foundation of Deception: Knowledge Acquisition and Fundamental Limits

Tao Zhang, Quanyan Zhu|arXiv (Cornell University)|Oct 1, 2018

Game Theory and Applications参考文献 5被引用数 5

ひとこと要約

本稿は、連続的一次元の情報空間における詐欺を形式化するためのゲーム理論的シグナリングモデルを提案する。欺瞞を働く者（送信者）と欺瞞を受ける者（受信者）を、非対称情報を持つ戦略的エージェントとしてモデル化する。欺瞞が低状態で可能で、高状態ではプールイングが発生する部分プールイング完全ベイジアンナッシュ均衡（SLAPH）というクラスの均衡を同定し、欺瞞コストと利害対立の影響が、欺瞞の可能性と均衡の安定性に与える影響を明らかにする。

ABSTRACT

Deception is a technique to mislead human or computer systems by manipulating beliefs and information. Successful deception is characterized by the information-asymmetric, dynamic, and strategic behaviors of the deceiver and the deceivee. This paper proposes a game-theoretic framework of a deception game to model the strategic behaviors of the deceiver and deceivee and construct strategies for both attacks and defenses over a continuous one-dimensional information space. We use the signaling game model to capture the information-asymmetric, dynamic, and strategic behaviors of deceptions by modeling the deceiver as a privately-informed player called sender and the deceivee as an uninformed player called receiver. We characterize perfect Bayesian Nash equilibrium (PBNE) solution of the game and study the deceivability. We highlight the condition of deceivee's knowledge enhancement through evidences to maintain the equilibrium and analyze the impacts of direct deception costs and players' conflict of interest on the deceivability.

研究の動機と目的

• ゲーム理論を用いて、欺瞞を働く者と欺瞞を受ける者の間の戦略的かつ情報非対称な相互作用として、詐欺を形式化すること。
• 連続的一次元の情報空間における両者の動的かつコスト感受性な行動をモデル化すること。
• 詐欺ゲームの完全ベイジアンナッシュ均衡（PBNE）を特徴づけ、その構造的性質を分析すること。
• 詐欺が可能または不可能となる条件を同定し、均衡の維持に果たす証拠収集の役割を検討すること。
• 均衡分析を通じて、詐欺に基づく防御メカニズムおよび反詐欺システムの設計原則を提示すること。

提案手法

• 詐欺プロセスを、私的情報を持つ送信者（欺瞞を働く者）と、情報が得られていない受信者（欺瞞を受ける者）を有するシグナリングゲームとしてモデル化する。
• 一様分布する私的情報と、両者によるコスト最小化行動を有する連続的状態空間 θ ∈ [0,1] を使用する。
• 安定な戦略的結果を特徴付けるために、完全ベイジアンナッシュ均衡（PBNE）の概念を適用する。
• 欺瞞コスト k と利害対立 b に基づき、送信者の最適シグナリング戦略 σ^S*(θ) を求めるための微分方程式（式10）を導出する。
• 受信者が確率的証拠収集を行うことで、信念を更新し意思決定に影響を与えることをモデル化し、調査領域と事後確率を用いる。
• カットオフ閾値と費用対利益のトレードオフの分析を通じて、SLAPH（低状態で分離、高状態でプールイング）と呼ばれる新規な均衡構造を同定する。

実験結果

リサーチクエスチョン

• RQ1 詐欺ゲームはどのような条件下で安定な完全ベイジアンナッシュ均衡を有するか？
• RQ2 欺瞞コストと利害対立は、均衡の存在と構造にどのように影響するか？
• RQ3 情報空間のどの領域が欺瞞可能または欺瞞不能であり、それらはどのように決定されるか？
• RQ4 欺瞞を受ける者の証拠収集は、均衡の安定性および欺瞞を働く者の逸脱のインセンティブにどのように影響するか？
• RQ5 利害対立が小さい場合に、総コストを増加させずに複数の部分的欺瞞可能領域が存在しうるか？

主な発見

• 詐欺ゲームは、SLAPH（低状態で分離、高状態でプールイング）と呼ばれる部分プールイング均衡のクラスを有する。これは、詐欺の戦略的限界を特徴づける。
• 欺瞞コスト k が利害対立 b に対して小さい場合、送信者は分離戦略を好む。k が大きい場合、プールイングが最適となり、k/b の増加に伴いカットオフ状態 θ̂ は 1 に近づく。
• カットオフ状態 θ̂ = 1 - (b/k)(1 - exp(-k/b)) が、欺瞞可能（低 θ）と欺瞞不能（高 θ）の領域の境界を決定する。
• b = 1/8 かつ k = 0.1 の場合、カットオフ状態は θ̂ = 0.3117 となり、これより先では送信者はプールイング戦略 σ^S*(θ) = 1 を使用する。
• 真陽性率が 0.9 の場合、証拠収集により受信者の期待コストは 0.04 から 0.02 に低下し、均衡維持における確率的証拠の価値が示される。
• 完全に欺瞞不能な領域は存在しないが、利害対立が小さい場合、欺瞞コストを増加させずに複数の部分的欺瞞可能領域に分割可能である。