[논문 리뷰] Challenges and New Directions in Augmented Reality, Computer Security, and Neuroscience -- Part 1: Risks to Sensation and Perception

Stefano Baldassi, Tadayoshi Kohno외 2명|arXiv (Cornell University)|2018. 06. 27.

Virtual Reality Applications and Impacts참고 문헌 9인용 수 10

한 줄 요약

이 논문은 증강현실(AR) 시스템에서의 운동 유도 실명, 시각 적응, 빛에 민감한 간질과 같은 감각 및 지각 위험을 식별하고 평가하기 위한 보안 위협 모델링 프레임워크를 제안한다. 컴퓨터 보안 기법을 신경과학에 적용함으로써 저자들은 악성 또는 결함이 있는 AR 애플리케이션들이 인간의 지각 취약점을 악용할 수 있음을 강조하며, 광범위한 AR 배포 이전에 사전 대응 설계 보호 조치를 취할 것을 촉구한다.

ABSTRACT

Rapidly advancing AR technologies are in a unique position to directly mediate between the human brain and the physical world. Though this tight coupling presents tremendous opportunities for human augmentation, it also presents new risks due to potential adversaries, including AR applications or devices themselves, as well as bugs or accidents. In this paper, we begin exploring potential risks to the human brain from augmented reality. Our initial focus is on sensory and perceptual risks (e.g., accidentally or maliciously induced visual adaptations, motion-induced blindness, and photosensitive epilepsy), but similar risks may span both lower- and higher-level human brain functions, including cognition, memory, and decision-making. Though they have not yet manifested in practice in early-generation AR technologies, we believe that such risks are uniquely dangerous in AR due to the richness and depth with which it interacts with a user's experience of the physical world. We propose a framework, based in computer security threat modeling, to conceptually and experimentally evaluate such risks. The ultimate goal of our work is to aid AR technology developers, researchers, and neuroscientists to consider these issues before AR technologies are widely deployed and become targets for real adversaries. By considering and addressing these issues now, we can help ensure that future AR technologies can meet their full, positive potential.

연구 동기 및 목표

• 증강현실(AR) 기술이 인간의 감각 및 지각에 초래하는 새로운 위험을 조사하는 것.
• 악성 애플리케이션 또는 설계 결함을 통해 AR 시스템이 인간의 지각 취약점을 어떻게 악용할 수 있는지 규명하는 것.
• 감각 및 지각 위험에 특화된 보안 위협 모델링 프레임워크를 개발하여 컴퓨터 보안과 신경과학을 연결하는 것.
• AR 개발자, 연구자, 신경과학자들이 광범위한 배포 이전에 이러한 위험을 사전에 대응하도록 안내하는 것.
• AR 환경에서 악성 또는 의도하지 않은 감각 조작을 예측함으로써 실제 피해를 방지하는 것.

제안 방법

• AR의 인간 감각 및 지각 시스템에 대한 위험을 분석하기 위해 컴퓨터 보안 위협 모델링 기법을 적응 적용하는 것.
• 운동 유도 실명 및 시각 적응과 같은 특정 지각 현상이 공격 벡터가 될 수 있음을 규명하는 것.
• 빛에 민감한 간질과 같은 신경학적 상태가 AR 콘텐츠 노출로 인해 위험해질 수 있음을 분석하는 것.
• AR가 인간 지각과 상호작용하는 깊이와 풍부함에 기반해 위험을 체계적으로 평가할 수 있는 개념적 프레임워크를 제안하는 것.
• 기존의 신경과학 문헌을 활용하여 잠재적 위험을 생리적 및 인지 기제에 기반시켜 근거를 마련하는 것.
• 컴퓨터 보안, 신경과학, AR 개발 팀 간의 다학제적 협업이 필요하다는 점을 강조하는 것.

실험 결과

연구 질문

• RQ1 증강현실 시스템이 악성 설계 또는 의도하지 않은 결함으로 인해 발생시킬 수 있는 감각 및 지각 위험은 무엇인가?
• RQ2 컴퓨터 보안 위협 모델링 기법을 인간 지각 및 감각에 대한 위험 평가에 어떻게 적응시킬 수 있는가?
• RQ3 AR 애플리케이션은 어떤 방식으로 알려진 지각 현상을 악용하여 유해하거나 예상치 못한 사용자 상태를 유도할 수 있는가?
• RQ4 AR가 인간 감각 처리와 깊이 통합됨으로써 장기적인 인지적 및 신경학적 안전성에 어떤 영향을 미칠 수 있는가?
• RQ5 개발자와 연구자들은 AR 기술이 광범위하게 보급되기 전에 어떻게 지각 위험을 사전에 식별하고 완화할 수 있는가?

주요 결과

• AR 기술은 사용자의 감각 입력과 직접적이고 실시간으로 상호작용하기 때문에 인간의 감각 및 지각에 고유한 위험을 초래한다.
• 운동 유도 실명 및 시각 적응과 같은 특정 지각 현상은 혼란 또는 지각 변화를 유도하기 위해 악용될 수 있다.
• 빛에 민감한 간질은 빠른 번쩍임이나 고대비 패턴이 포함된 AR 콘텐츠에 의해 유발될 수 있는 문서화된 위험이다.
• 논문은 현재 AR 시스템에서는 이러한 위험이 아직 널리 퍼지지 않았지만, AR가 더욱 광범위하고 정교해질수록 나타날 수 있음을 밝혔다.
• 제안된 위협 모델링 프레임워크는 기존 사이버 위험 평가와 유사하게 AR에서 감각 및 지각 위험을 체계적으로 식별하고 평가할 수 있도록 한다.
• 저자들은 AR 기술이 해로움 없이 긍정적 잠재력을 실현하기 위해 사전 위험 평가가 필수적임을 결론지었다.