[논문 리뷰] A Game-Theoretic Foundation of Deception: Knowledge Acquisition and Fundamental Limits

Tao Zhang, Quanyan Zhu|arXiv (Cornell University)|2018. 10. 01.

Game Theory and Applications참고 문헌 5인용 수 5

한 줄 요약

이 논문은 연속적인 일차원 정보 공간에서 위장행위를 형식화하기 위해 게임이론적 신호 전달 모델을 제안한다. 위장하는 자(보내는 이, sender)와 속이는 자(받는 이, receiver)를 비대칭 정보를 가진 전략적 에이전트로 모델링한다. 위장이 가능한 저수준 상태에서는 부분적 풀링 완전 베이지안 나시 균형(SLAPH)이라는 균형 클래스를 규명하며, 이는 저수준 상태에서는 분리가 일어나고 고수준 상태에서는 풀링이 일어남을 의미한다. 주요 발견은 위장 비용과 이해관계의 괴리가 위장 가능성과 균형 안정성에 미치는 영향이다.

ABSTRACT

Deception is a technique to mislead human or computer systems by manipulating beliefs and information. Successful deception is characterized by the information-asymmetric, dynamic, and strategic behaviors of the deceiver and the deceivee. This paper proposes a game-theoretic framework of a deception game to model the strategic behaviors of the deceiver and deceivee and construct strategies for both attacks and defenses over a continuous one-dimensional information space. We use the signaling game model to capture the information-asymmetric, dynamic, and strategic behaviors of deceptions by modeling the deceiver as a privately-informed player called sender and the deceivee as an uninformed player called receiver. We characterize perfect Bayesian Nash equilibrium (PBNE) solution of the game and study the deceivability. We highlight the condition of deceivee's knowledge enhancement through evidences to maintain the equilibrium and analyze the impacts of direct deception costs and players' conflict of interest on the deceivability.

연구 동기 및 목표

• 게임이론을 활용해 위장하는 자와 속이는 자 사이의 전략적 상호작용과 비대칭 정보를 위장의 형식화하기.
• 연속적인 일차원 정보 공간에서 양 측의 동적이고 비용 민감한 행동을 모델링하기.
• 위장 게임의 완전 베이지안 나시 균형(PBNE)을 특성화하고 그 구조적 성질을 분석하기.
• 위장이 가능한가 혹은 불가능한가에 대한 조건을 규명하고, 균형 유지에 있어 증거 확보의 역할을 연구하기.
• 균형 분석을 통해 위장 기반 방어 메커니즘과 위장 회피 시스템의 설계 원칙을 제시하기.

제안 방법

• 위장 과정을 비밀 정보를 가진 보낸이(위장하는 자)와 무지한 받는이(속이는 자)를 가진 신호 전달 게임으로 모델링한다.
• 균일 분포된 비밀 정보와 양 측 모두의 비용 최소화 행동을 가진 연속 상태 공간 θ ∈ [0,1]을 사용한다.
• 안정된 전략적 결과를 특성화하기 위해 완전 베이지안 나시 균형(PBNE) 개념을 적용한다.
• 위장 비용 k와 이해관계의 괴리 b에 기반해 보낸이의 최적 신호 전략 σ^S*(θ)를 구하기 위해 미분방정식(Eq. 10)을 유도한다.
• 받는이가 확률적 증거를 확보하여 믿음과 결정을 갱신하도록 모델링하며, 이는 조사 영역과 사후 확률을 통해 이루어진다.
• 절단 임계값과 비용-편익 트레이드오프 분석을 통해 새로운 균형 구조인 SLAPH(Separating in Low states, Pooling in High states)를 규명한다.

실험 결과

연구 질문

• RQ1 위장 게임이 안정적인 완전 베이지안 나시 균형을 갖는 조건은 무엇인가?
• RQ2 위장 비용과 이해관계의 괴리가 균형의 존재성과 구조에 미치는 영향은 무엇인가?
• RQ3 정보 공간의 어떤 영역이 위장 가능하거나 불가능한가? 그리고 그 영역는 어떻게 결정되는가?
• RQ4 속이는 자의 증거 확보가 균형 안정성과 위장하는 자의 이탈 유혹에 어떤 영향을 미치는가?
• RQ5 이해관계의 괴리가 낮을 때, 총 위장 비용을 증가시키지 않고도 다수의 부분적 위장 가능 영역이 존재할 수 있는가?

주요 결과

• 위장 게임은 SLAPH(Separating in Low states, Pooling in High states)로 알려진 부분적 풀링 균형의 클래스를 수용하며, 이는 위장의 전략적 한계를 특성화한다.
• 위장 비용 k가 이해관계의 괴리 b에 비해 낮을 경우 보낸이는 분리 전략을 선호하고, k가 높아지면 풀링 전략이 최적화된다. k/b 비율이 증가함에 따라 절단 상태 θ̂는 1에 수렴한다.
• 절단 상태 θ̂ = 1 - (b/k)(1 - exp(-k/b))는 위장 가능한(저수준 θ) 영역과 위장 불가능한(고수준 θ) 영역의 경계를 결정한다.
• b = 1/8 이고 k = 0.1일 경우 절단 상태는 θ̂ = 0.3117이며, 이를 초과하는 영역에서는 보낸이가 풀링 전략 σ^S*(θ) = 1을 사용한다.
• 진짜 양성 비율이 0.9일 때, 증거 확보로 받는이의 기대 비용이 0.04에서 0.02로 감소함을 보여, 균형 유지에 있어 확률적 증거의 가치를 입증한다.
• 완전한 위장 불가능 영역은 존재하지 않지만, 이해관계의 괴리가 작을 경우 총 위장 비용을 증가시키지 않고도 다수의 부분적 위장 가능 영역을 분할할 수 있다.