[论文解读] Exploring the Privacy Risks of Adversarial VR Game Design

Vivek Nair, Gonzalo Munilla Garrido+2 more|arXiv (Cornell University)|Jul 26, 2022

Sexuality, Behavior, and Technology参考文献 44被引用 17

一句话总结

本文展示了如何通过精心设计的对抗性VR游戏，仅用几分钟时间，便利用用户在游戏中的运动模式，隐蔽地提取超过25项个人数据属性（如身高、年龄和性别）。该研究揭示，与被动观察相比，主动触发的行为推理在VR中构成更大的隐私风险，即使在消费级设备上也能实现高精度。

ABSTRACT

Fifty study participants playtested an innocent-looking "escape room" game in virtual reality (VR). Within just a few minutes, an adversarial program had accurately inferred over 25 of their personal data attributes, from anthropometrics like height and wingspan to demographics like age and gender. As notoriously data-hungry companies become increasingly involved in VR development, this experimental scenario may soon represent a typical VR user experience. Since the Cambridge Analytica scandal of 2018, adversarially designed gamified elements have been known to constitute a significant privacy threat in conventional social platforms. In this work, we present a case study of how metaverse environments can similarly be adversarially constructed to covertly infer dozens of personal data attributes from seemingly anonymous users. While existing VR privacy research largely focuses on passive observation, we argue that because individuals subconsciously reveal personal information via their motion in response to specific stimuli, active attacks pose an outsized risk in VR environments.

研究动机与目标

• 调查在VR中通过利用用户无意识运动来推断个人属性的主动行为驱动隐私攻击的可行性。
• 证明看似无害的VR游戏可被对抗性设计为在用户无意识下收集敏感数据。
• 识别并分类VR环境中易受攻击的数据属性、威胁参与者和数据来源。
• 提高隐私从业者对元宇宙应用中主动推理威胁日益增长的认识。
• 提供一个理解并缓解沉浸式VR平台隐私风险的框架。

提出的方法

• 开发了一款定制的‘密室逃脱’VR游戏，以微妙方式操控用户行为，并收集其运动与交互数据。
• 游戏设计旨在诱发与身高、臂展等个人属性相关的特定运动模式。
• 利用原始传感器遥测数据训练机器学习模型，从运动行为中推断个人属性。
• 攻击模型使用对刺激的反应行为作为生物特征和人口统计学数据的代理指标。
• 数据收集使用消费级VR硬件（如Meta Quest 2）完成，以确保现实相关性。
• 发布了匿名化的开源代码和数据处理管道，以支持复现与进一步研究。

实验结果

研究问题

• RQ1 对抗性设计的VR游戏能否隐蔽地从用户运动模式中推断个人数据属性？
• RQ2 攻击者仅通过VR中的行为反应，能多准确地推断生物特征和人口统计学属性？
• RQ3 通过主动游戏设计，哪些类型的数据属性最容易被推断？
• RQ4 与被动观察技术相比，VR中的主动攻击在效果上如何？
• RQ5 VR环境中存在哪些数据收集的威胁模型和攻击者能力？

主要发现

• 对抗性VR游戏仅通过运动和行为数据，便成功从50名参与者中推断出25种以上不同的个人数据属性。
• 系统在推断身高、臂展、年龄和性别等属性方面表现出高精度，部分属性甚至可唯一标识用户。
• 攻击在数分钟内即有效，且仅需用户进行正常游戏操作，无需额外输入。
• 许多属性通过被动观察难以获取，但通过主动行为引导却极易被推断。
• 研究表明，拥有原始传感器遥测数据访问权限的特权攻击者，可在关键属性上实现近乎完美的推断。
• 结果表明，数据渴求型公司可轻松在主流VR应用中实施类似技术。