[논문 리뷰] Modeling and Analysis of Leaky Deception using Signaling Games with Evidence

Jeffrey Pawlick, E. J. M. Colbert외 1명|arXiv (Cornell University)|2018. 04. 18.

Network Security and Intrusion Detection참고 문헌 23인용 수 5

한 줄 요약

이 논문은 신호 전달 게임을 확장하여 탐지 가능한 위선적 행동을 모델링하기 위해 확률적 위선 탐지기(의심의 증거)를 통합한다. 이로 인해 풀링 및 부분적으로 분리되는 균형을 도출한다. 연구는 고성능 탐지기가 일부 순수 전략 균형을 제거함을 보이며, 놀랍게도 전략적 전달 유인으로 인해 위선적인 송신자가 높은 정확도의 탐지기를 통해 이익을 볼 수 있음을 밝힌다.

ABSTRACT

Deception plays critical roles in economics and technology, especially in emerging interactions in cyberspace. Holistic models of deception are needed in order to analyze interactions and to design mechanisms that improve them. Game theory provides such models. In particular, existing work models deception using signaling games. But signaling games inherently model deception that is undetectable. In this paper, we extend signaling games by including a detector that gives off probabilistic warnings when the sender acts deceptively. Then we derive pooling and partially-separating equilibria of the game. We find that 1) high-quality detectors eliminate some pure-strategy equilibria, 2) detectors with high true-positive rates encourage more honest signaling than detectors with low false-positive rates, 3) receivers obtain optimal outcomes for equal-error-rate detectors, and 4) surprisingly, deceptive senders sometimes benefit from highly accurate deception detectors. We illustrate these results with an application to defensive deception for network security. Our results provide a quantitative and rigorous analysis of the fundamental aspects of detectable deception.

연구 동기 및 목표

• 전략적 상호작용에서 탐지 가능한 위선적 행동을 위한 통합적이고 정량적인 모델의 부족을 해결하기 위해.
• 이전에 탐지 불가능한 위선적 행동에 국한되었던 전통적 신호 전달 게임을 확장하기 위해, 위선적 행동의 증거를 제공하는 확률적 탐지기를 통합하기 위해.
• 탐지기 정확도와 오류 비율이 전략적 의사소통의 균형 결과에 미치는 영향을 분석하기 위해.
• 사이버보안 및 신뢰 관리 분야에서 방어적 위선적 행동을 평가하기 위한 엄밀한 게임이론적 프레임워크를 제공하기 위해.

제안 방법

• 송신자(S)가 비공개 정보를 지닌 상태에서 수신자(R)에게 메시지를 전달하는 신호 전달 게임을 도입하며, 이 과정에서 위선적 행동의 증거를 제공하는 탐지기가 존재한다.
• 수신자의 송신자의 정직성에 대한 믿음을 베이즈의 정리에 따라 갱신하는 증거(e)로 탐지기를 모델링한다.
• 보수적인 탐지기(낮은 위양성 비율), 공격적인 탐지기(낮은 위음성 비율), 등가 오류 비율 탐지기의 세 가지 타입에 따라 균형을 유도한다.
• 수신자 믿음 일관성과 무차별 조건을 만족하는 송신자 전략(q, r)과 수신자 전략(x, y, w, z)을 풀어 풀링 및 부분적으로 분리되는 균형을 분석한다.
• 송신자 유형(θ), 메시지(m), 증거(e), 수신자 행동(a)에 따라 양측의 보상이 결정되는 유틸리티 프레임워크를 사용한다.
• 네트워크 보안에 모델을 적용하여, 환수기와 위선적 메커니즘을 전략적 균형 행동 관점에서 분석할 수 있음을 보여준다.

실험 결과

연구 질문

• RQ1 진정 양성 비율과 위양성 비율이 다른 탐지기 특성들이 탐지 가능한 위선적 행동이 있는 신호 전달 게임의 균형 존재성과 성격에 어떤 영향을 미치는가?
• RQ2 고품질의 위선 탐지기가 어떤 조건에서 순수 전략 균형을 제거하는가?
• RQ3 위선적인 송신자가 매우 정확한 위선 탐지기로부터 이익을 볼 수 있는가? 만약 그렇다면 그 이유는 무엇인가?
• RQ4 위선적 행동의 증거가 확률적으로 제공될 경우, 수신자의 믿음 형성과 행동 선택은 어떻게 변화하는가?
• RQ5 탐지기 오류 비율이 정직과 위선적 행동에 대한 전반적인 전략적 유인에 어떤 영향을 미치는가?

주요 결과

• 고품질 탐지기는 위선적 행동이 전략적으로 유리하지 않게 하여 일부 순수 전략 균형을 제거한다.
• 높은 진정 양성 비율을 가진 탐지기는 낮은 위양성 비율 탐지기보다 더 많은 정직한 전달을 유도한다.
• 등가 오류 비율 탐지기를 사용할 경우 수신자가 최적의 결과를 달성할 수 있으며, 감도와 특이도를 균형 있게 조절한다.
• 놀랍게도 전략적 전달 유인으로 인해 위선적인 송신자는 매우 정확한 위선 탐지기로부터 이익을 볼 수 있다.
• 풀링 균형에서는 균형 외 메시지의 변화에 대해 수신자의 행동이 변하지 않아 메시지 이탈에 대해 강건함을 보장한다.
• 모델은 탐지기 유형에 따라 진실 유도 효과가 달라짐을 보여주며, 보수적인 탐지기는 중간 영역에서 진실 전달을 유도하고, 공격적인 탐지기는 영역 0-중요 및 영역 1-중요에서 이를 유도한다.