[论文解读] Challenges and New Directions in Augmented Reality, Computer Security, and Neuroscience -- Part 1: Risks to Sensation and Perception

Stefano Baldassi, Tadayoshi Kohno+2 more|arXiv (Cornell University)|Jun 27, 2018

Virtual Reality Applications and Impacts参考文献 9被引用 10

一句话总结

本文提出了一种安全威胁建模框架，用于识别和评估增强现实（AR）系统中的感官与感知风险，例如运动性失明、视觉适应和光敏性癫痫。通过将计算机安全方法论应用于神经科学，作者指出恶意或有缺陷的AR应用可能利用人类感知的脆弱性，呼吁在AR广泛部署之前采取主动设计防护措施。

ABSTRACT

Rapidly advancing AR technologies are in a unique position to directly mediate between the human brain and the physical world. Though this tight coupling presents tremendous opportunities for human augmentation, it also presents new risks due to potential adversaries, including AR applications or devices themselves, as well as bugs or accidents. In this paper, we begin exploring potential risks to the human brain from augmented reality. Our initial focus is on sensory and perceptual risks (e.g., accidentally or maliciously induced visual adaptations, motion-induced blindness, and photosensitive epilepsy), but similar risks may span both lower- and higher-level human brain functions, including cognition, memory, and decision-making. Though they have not yet manifested in practice in early-generation AR technologies, we believe that such risks are uniquely dangerous in AR due to the richness and depth with which it interacts with a user's experience of the physical world. We propose a framework, based in computer security threat modeling, to conceptually and experimentally evaluate such risks. The ultimate goal of our work is to aid AR technology developers, researchers, and neuroscientists to consider these issues before AR technologies are widely deployed and become targets for real adversaries. By considering and addressing these issues now, we can help ensure that future AR technologies can meet their full, positive potential.

研究动机与目标

• 调查增强现实（AR）技术对人类感觉和感知带来的新兴风险。
• 识别AR系统如何通过恶意应用或设计缺陷利用人类感知脆弱性。
• 开发一种专用于AR中感官与感知风险的安全威胁建模框架，弥合计算机安全与神经科学之间的鸿沟。
• 指导AR开发者、研究人员和神经科学家在AR广泛部署前主动应对这些风险。
• 通过预见AR环境中敌意或意外的感官操纵，防止现实世界中的伤害。

提出的方法

• 将计算机安全威胁建模技术适配于分析AR中人类感官与感知系统面临的风险。
• 识别特定的感知现象（如运动性失明和视觉适应）作为潜在的攻击向量。
• 研究神经疾病（如光敏性癫痫）作为AR内容暴露可能引发的风险。
• 提出一个概念性框架，基于AR与人类感知交互的深度和丰富性，系统评估风险。
• 利用现有神经科学文献，将潜在风险建立在生理与认知机制的基础之上。
• 强调计算机安全、神经科学与AR开发团队之间开展跨学科合作的必要性。

实验结果

研究问题

• RQ1 增强现实系统可能引发哪些感官与感知风险，无论出于恶意设计还是意外缺陷？
• RQ2 计算机安全威胁建模如何被调整以评估对人类感知与感觉的风险？
• RQ3 AR应用在何种方式下可能利用已知的感知现象，诱导用户产生有害或非预期的状态？
• RQ4 AR与人类感官处理深度整合对长期认知与神经安全性有何影响？
• RQ5 开发者与研究人员如何在AR技术广泛普及之前主动识别并缓解感知风险？

主要发现

• 由于AR技术与用户感官输入直接且实时交互，对人类感觉与感知构成独特风险。
• 特定的感知现象（如运动性失明和视觉适应）可能被利用以引发眩晕或感知改变。
• 光敏性癫痫是已记录的风险，可能由具有快速闪烁或高对比度图案的AR内容触发。
• 本文指出，尽管这些风险在当前AR系统中尚未普遍出现，但随着AR的普及与复杂化，其出现可能性将上升。
• 所提出的威胁建模框架可系统性地识别与评估AR中的感官与感知风险，类似于传统网络安全风险评估。
• 作者结论认为，主动风险评估对于确保AR技术充分发挥其积极潜力而不造成伤害至关重要。