[논문 리뷰] Exploring the Privacy Risks of Adversarial VR Game Design

Vivek Nair, Gonzalo Munilla Garrido외 2명|arXiv (Cornell University)|2022. 07. 26.

Sexuality, Behavior, and Technology참고 문헌 44인용 수 17

한 줄 요약

이 논문은 악성으로 설계된 VR 게임이 단 몇 분 내로 사용자의 움직임 패턴을 통해 키, 나이, 성별과 같은 25개 이상의 개인 정보 속성을 은밀히 추출할 수 있음을 입증한다. 이는 '탈출 방' 게임처럼 보이지만 실제로는 악성 목적을 가진 게임을 통해 이루어지며, 소비자용 기기조차도 높은 정확도로 작동한다. 연구 결과, 수동 관찰보다는 사용자의 행동을 유도하는 능동적 공격 방식이 VR 환경에서 훨씬 더 큰 개인정보 유출 위험을 초래하며, 이는 소비자 기기에서도 높은 정확도로 이루어진다.

ABSTRACT

Fifty study participants playtested an innocent-looking "escape room" game in virtual reality (VR). Within just a few minutes, an adversarial program had accurately inferred over 25 of their personal data attributes, from anthropometrics like height and wingspan to demographics like age and gender. As notoriously data-hungry companies become increasingly involved in VR development, this experimental scenario may soon represent a typical VR user experience. Since the Cambridge Analytica scandal of 2018, adversarially designed gamified elements have been known to constitute a significant privacy threat in conventional social platforms. In this work, we present a case study of how metaverse environments can similarly be adversarially constructed to covertly infer dozens of personal data attributes from seemingly anonymous users. While existing VR privacy research largely focuses on passive observation, we argue that because individuals subconsciously reveal personal information via their motion in response to specific stimuli, active attacks pose an outsized risk in VR environments.

연구 동기 및 목표

• 사용자의 무의식적 움직임을 이용해 개인 정보 속성을 유추하는 능동적, 행동 기반 개인정보 유출 공격이 VR 환경에서 실제로 가능한지 조사하기.
• 사용자 인식 없이도 민감한 데이터를 유출할 수 있도록 악성으로 설계된 보이기만 하면 안전한 VR 게임이 존재할 수 있음을 입증하기.
• VR 환경에서 취약한 개인정보 속성, 위협 요소, 데이터 출처를 식별하고 분류하기.
• 메타버스 애플리케이션에서 능동적 추론 공격의 증가하는 위협에 대해 개인정보 전문가들에게 경각심을 일깨우기.
• 몰입형 VR 플랫폼에서 개인정보 유출 위험을 이해하고 대응할 수 있는 프레임워크 제공하기.

제안 방법

• 사용자 행동을 암묵적으로 유도하고 움직임 및 상호작용 데이터를 수집하기 위해 맞춤형 '탈출 방' VR 게임을 개발하였다.
• 키, 팔벌림 길이 등 개인 정보 속성과 관련된 특정 움직임 패턴을 유도하기 위해 게임을 설계하였다.
• 움직임 행동에서 개인 정보 속성을 유추하기 위해 원시 센서 텔레메트리 데이터를 기반으로 기계학습 모델을 훈련시켰다.
• 공격 모델은 자극에 대한 행동 반응을 생체정보 및 인구통계학적 데이터의 대체 지표로 사용하였다.
• 실제 세계의 적용 가능성을 확보하기 위해 소비자용 VR 하드웨어(예: Meta Quest 2)를 사용하여 데이터 수집을 수행하였다.
• 재현 가능성과 향후 연구를 위해 익명화된 오픈소스 코드와 데이터 파이프라인을 공개하였다.

실험 결과

연구 질문

• RQ1 악성으로 설계된 VR 게임이 사용자 움직임 패턴을 통해 은밀히 개인 정보 속성을 추론할 수 있는가?
• RQ2 VR 환경에서 행동 반응만을 사용할 경우 공격자가 생체정보 및 인구통계학적 속성을 얼마나 정확하게 추론할 수 있는가?
• RQ3 어떤 종류의 개인정보 속성이 능동적 게임 설계를 통해 가장 취약하게 유추 가능한가?
• RQ4 능동적 공격 방식이 수동 관찰 기법에 비해 효과적으로 작용하는가?
• RQ5 VR 환경에서 데이터 유출를 위한 위협 모델과 공격자 능력은 어떤가?

주요 결과

• 악성 VR 게임은 단 50명의 참가자로부터 움직임 및 행동 데이터만을 사용하여 25개 이상의 고유한 개인 정보 속성을 성공적으로 추론하였다.
• 키, 팔벌림 길이, 나이, 성별 등의 속성에 대해 높은 정확도로 추론했으며, 일부 속성은 사용자를 고유하게 식별할 수 있었다.
• 공격는 몇 분 내로 성공했으며, 정상적인 게임 플레이 외에 사용자 입력이 전혀 필요로 하지 않았다.
• 다수의 속성은 수동 관찰로는 확보하기 어려웠지만, 능동적인 행동 유도를 통해 매우 높은 정확도로 추론 가능했다.
• 원시 센서 텔레메트리 데이터에 액세스할 수 있는 특권을 가진 공격자는 핵심 속성에 대해 거의 완벽한 추론을 달성할 수 있었다.
• 결과적으로 데이터 수집에 과도하게 집착하는 기업들이 주류 VR 애플리케이션에 유사한 기법을 쉽게 도입할 수 있음을 시사한다.