[論文レビュー] Modeling and Analysis of Leaky Deception using Signaling Games with Evidence

Jeffrey Pawlick, E. J. M. Colbert+1 more|arXiv (Cornell University)|Apr 18, 2018

Network Security and Intrusion Detection参考文献 23被引用数 5

ひとこと要約

本稿は、検出可能な詐欺をモデル化するため、確率的詐欺検出器を統合した信号ゲームを拡張し、プール型均衡および部分的に分離型均衡を導出する。高品質な検出器は特定の純粋戦略均衡を排除することを示し、驚くべきことに、戦略的信号送出のインcentiveのため、詐欺的送信者は高精度な検出器から利益を享受できる可能性がある。

ABSTRACT

Deception plays critical roles in economics and technology, especially in emerging interactions in cyberspace. Holistic models of deception are needed in order to analyze interactions and to design mechanisms that improve them. Game theory provides such models. In particular, existing work models deception using signaling games. But signaling games inherently model deception that is undetectable. In this paper, we extend signaling games by including a detector that gives off probabilistic warnings when the sender acts deceptively. Then we derive pooling and partially-separating equilibria of the game. We find that 1) high-quality detectors eliminate some pure-strategy equilibria, 2) detectors with high true-positive rates encourage more honest signaling than detectors with low false-positive rates, 3) receivers obtain optimal outcomes for equal-error-rate detectors, and 4) surprisingly, deceptive senders sometimes benefit from highly accurate deception detectors. We illustrate these results with an application to defensive deception for network security. Our results provide a quantitative and rigorous analysis of the fundamental aspects of detectable deception.

研究の動機と目的

• 戦略的対話における検出可能な詐欺の包括的で定量的なモデルの不足に対処すること。
• 従来、検出不能な詐欺に限定されていた伝統的信号ゲームを拡張し、偽装の証拠を提供する確率的検出器を統合すること。
• 検出器の精度と誤検出率が戦略的コミュニケーションにおける均衡結果に与える影響を分析すること。
• サイバーセキュリティおよび信頼管理分野における防御的詐欺の評価のための厳密なゲーム理論的フレームワークを提供すること。

提案手法

• 送信者（S）が私的情報を有し、受信者（R）にメッセージを送信する信号ゲームを導入し、偽装の確率的証拠を発行する検出器を備える。
• 受信者の送信者の誠実性に関する信念をベイズの定理を用いて更新する証拠（e）として検出器をモデル化する。
• 保守的（偽陽性が低い）検出器、攻撃的（偽陰性が低い）検出器、等誤検出率検出器の各タイプにおける均衡を導出する。
• 送信者の戦略（q, r）と受信者の戦略（x, y, w, z）を解き、無差別条件と信念の一貫性を満たすことで、プール型および部分的に分離型均衡を分析する。
• 送信者のタイプ（θ）、メッセージ（m）、証拠（e）、受信者の行動（a）に依存する両者の報酬が関与する報酬フレームワークを用いる。
• ネットワークセキュリティに本モデルを適用し、ハニーポットや詐欺メカニズムが戦略的均衡行動を通じてどのように分析可能かを示す。

実験結果

リサーチクエスチョン

• RQ1 真陽性率および偽陽性率といった異なる検出器特性が、検出可能な詐欺を伴う信号ゲームにおける均衡の存在と性質にどのように影響するか？
• RQ2 高品質な詐欺検出器が純粋戦略均衡を排除するのはどのような条件下か？
• RQ3 詐欺的送信者が高精度な詐欺検出器から利益を享受できる場合があるのか、もしあるならその理由は何か？
• RQ4 偽装の証拠が確率的に提供可能である場合、受信者の信念形成と行動選択はどのように変化するか？
• RQ5 検出器の誤検出率が、誠実さと詐欺の戦略的インセンティブに全体的に与える影響は何か？

主な発見

• 高品質な検出器は、詐欺が戦略的に成立しにくくすることで、特定の純粋戦略均衡を排除する。
• 真陽性率の高い検出器は、偽陽性率の低い検出器よりも誠実な信号送出を促進する。
• 等誤検出率検出器を用いることで、受信者は検出感度と特異度の両方をバランスさせ、最適な結果を得る。
• 驚くべきことに、戦略的信号送出のインセンティブのため、詐欺的送信者は高精度な詐欺検出器から利益を得ることがある。
• プール型均衡では、非均衡メッセージに対して受信者の行動が変化しないため、メッセージの逸脱に対して頑健である。
• 本モデルは、真実誘導効果が検出器のタイプに依存することを示している：保守的検出器はミドル領域で真実を誘導し、攻撃的検出器はゼロ主体およびワン主体の領域で真実を誘導する。