[論文レビュー] Challenges and New Directions in Augmented Reality, Computer Security, and Neuroscience -- Part 1: Risks to Sensation and Perception

Stefano Baldassi, Tadayoshi Kohno+2 more|arXiv (Cornell University)|Jun 27, 2018

Virtual Reality Applications and Impacts参考文献 9被引用数 10

ひとこと要約

本論文は、運動誘発性盲、視覚適応、光線過敏性てんかんなどの、拡張現実（AR）システムにおける感覚的・知覚的リスクを特定・評価するためのセキュリティ脅威モデリングフレームワークを紹介する。コンピュータセキュリティの手法を神経科学に応用することで、悪意あるまたは欠陥のあるARアプリケーションが人間の知覚的脆弱性を悪用する可能性を浮き彫りにし、広範なAR導入の前に予防的設計の対策を講じるよう促している。

ABSTRACT

Rapidly advancing AR technologies are in a unique position to directly mediate between the human brain and the physical world. Though this tight coupling presents tremendous opportunities for human augmentation, it also presents new risks due to potential adversaries, including AR applications or devices themselves, as well as bugs or accidents. In this paper, we begin exploring potential risks to the human brain from augmented reality. Our initial focus is on sensory and perceptual risks (e.g., accidentally or maliciously induced visual adaptations, motion-induced blindness, and photosensitive epilepsy), but similar risks may span both lower- and higher-level human brain functions, including cognition, memory, and decision-making. Though they have not yet manifested in practice in early-generation AR technologies, we believe that such risks are uniquely dangerous in AR due to the richness and depth with which it interacts with a user's experience of the physical world. We propose a framework, based in computer security threat modeling, to conceptually and experimentally evaluate such risks. The ultimate goal of our work is to aid AR technology developers, researchers, and neuroscientists to consider these issues before AR technologies are widely deployed and become targets for real adversaries. By considering and addressing these issues now, we can help ensure that future AR technologies can meet their full, positive potential.

研究の動機と目的

• 拡張現実（AR）技術が人間の感覚および知覚に及ぼす新たなリスクを調査すること。
• ARシステムが悪意あるアプリケーションや設計上の欠陥によって、人間の知覚的脆弱性をどのように悪用できるかを特定すること。
• 感覚的および知覚的リスクに特化したセキュリティ脅威モデリングフレームワークを構築し、コンピュータセキュリティと神経科学を橋渡しすること。
• AR開発者、研究者、神経科学者らが、ARの広範な展開の前にこれらのリスクを前もって対処できるようにすること。
• AR環境における悪意あるまたは偶発的な感覚的操作を予測することで、現実世界での被害を防ぐこと。

提案手法

• ARにおける人間の感覚および知覚システムに対するリスクを分析するために、コンピュータセキュリティの脅威モデリング手法を適応する。
• 運動誘発性盲や視覚適応といった具体的な知覚現象を、攻撃ベクトルとして特定する。
• 光線過敏性てんかんのような神経疾患が、ARコンテンツの露出によって引き起こされる可能性のあるリスクを検討する。
• ARの知覚との統合の深さと豊かさに基づいて、リスクを体系的に評価する概念的フレームワークを提唱する。
• 既存の神経科学文献を活用し、潜在的リスクを生理的および認知的メカニズムに裏付けられるようにする。
• コンピュータセキュリティ、神経科学、AR開発チーム間の協働の重要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 悪意ある設計や偶発的欠陥によって、拡張現実（AR）システムから生じる感覚的・知覚的リスクとは何か？
• RQ2 コンピュータセキュリティの脅威モデリングは、人間の知覚および感覚に対するリスクをどのように評価できるか？
• RQ3 ARアプリケーションは、既知の知覚現象をどのように悪用し、有害または意図しないユーザー状態を引き起こす可能性があるか？
• RQ4 ARが人間の感覚処理に深く統合されることの、長期的な認知的および神経的健康への影響は何か？
• RQ5 開発者や研究者が、AR技術が広く普及する前に、知覚的リスクをどのように前もって特定・緩和できるか？

主な発見

• AR技術は、ユーザーの感覚入力と直接的・リアルタイムに相互作用するため、人間の感覚および知覚に特有のリスクをもたらす。
• 運動誘発性盲や視覚適応といった特定の知覚現象は、混乱や知覚の歪みを引き起こすために悪用される可能性がある。
• 光線過敏性てんかんは、急速なフレアや高コントラストパターンを含むARコンテンツによって引き起こされる可能性がある、実証済みのリスクである。
• 本論文は、これらのリスクは現在のARシステムではまだ顕著ではないが、ARがより普及し洗練されるにつれて出現する可能性があると指摘している。
• 提示された脅威モデリングフレームワークにより、従来のサイバーリスク評価と同様に、ARにおける感覚的・知覚的リスクの体系的特定および評価が可能になる。
• 著者らは、AR技術がそのポジティブな可能性を十分に発揮する一方で、被害を引き起こさないよう、事前のリスク評価が不可欠であると結論づけている。