[논문 리뷰] A Framework for Preserving Privacy and Cybersecurity in Brain-Computer Interfacing Applications

Maryna Kapitonova, Philipp Kellmeyer외 2명|arXiv (Cornell University)|2022. 09. 19.

EEG and Brain-Computer Interfaces인용 수 9

한 줄 요약

이 논문은 뇌-컴퓨터 인터페이스(BCI) 설계의 초도 단계부터 개인정보 보호와 사이버보안을 통합하기 위한 종합적이고 시스템 공학 기반의 프레임워크를 제안한다. 개인정보 위협 모델링과 개인정보 보호 설계 원칙을 BCI 데이터 플로우에 적용하여, 데이터 최소화, 익명화, 연합 학습, 사용자 제어와 같은 실행 가능한 전략을 도입함으로써 뇌 데이터의 기밀성과 사용자 자율성을 보장한다.

ABSTRACT

Brain-Computer Interfaces (BCIs) comprise a rapidly evolving field of technology with the potential of far-reaching impact in domains ranging from medical over industrial to artistic, gaming, and military. Today, these emerging BCI applications are typically still at early technology readiness levels, but because BCIs create novel, technical communication channels for the human brain, they have raised privacy and security concerns. To mitigate such risks, a large body of countermeasures has been proposed in the literature, but a general framework is lacking which would describe how privacy and security of BCI applications can be protected by design, i.e., already as an integral part of the early BCI design process, in a systematic manner, and allowing suitable depth of analysis for different contexts such as commercial BCI product development vs. academic research and lab prototypes. Here we propose the adoption of recent systems-engineering methodologies for privacy threat modeling, risk assessment, and privacy engineering to the BCI field. These methodologies address privacy and security concerns in a more systematic and holistic way than previous approaches, and provide reusable patterns on how to move from principles to actions. We apply these methodologies to BCI and data flows and derive a generic, extensible, and actionable framework for brain-privacy-preserving cybersecurity in BCI applications. This framework is designed for flexible application to the wide range of current and future BCI applications. We also propose a range of novel privacy-by-design features for BCIs, with an emphasis on features promoting BCI transparency as a prerequisite for informational self-determination of BCI users, as well as design features for ensuring BCI user autonomy. We anticipate that our framework will contribute to the development of privacy-respecting, trustworthy BCI technologies.

연구 동기 및 목표

• 민감한 신경 데이터를 노출하는 발전 중인 BCI 기술에서 증가하는 개인정보 및 사이버보안 위험을 해결하기 위해.
• 연구, 상용, 임상 등 다양한 맥락에서 BCI 설계에 개인정보 및 보안을 체계적으로 통합할 수 있는 재사용 가능한 프레임워크를 개발하기 위해.
• 투명하고 제어 가능한 BCI 시스템을 통해 정보 자율 결정권과 사용자 자율성을 보장하기 위해.
• 연구용 프로토타입과 상용 BCI 제품 모두에 적용 가능한 구체적이고 실행 가능한 개인정보 보존 설계 패턴을 제공하기 위해.

제안 방법

• BCI 시스템에 특화된 개인정보 위협 모델링 및 위험 평가를 위한 시스템 공학 방법론을 채택하기 위해.
• 확장된 BCI 사이클(데이터 수집, 처리, 전송, 저장) 전반에 걸쳐 BCI 데이터 플로우를 매핑하고 개인정보 위협을 식별하기 위해.
• 개인정보 보호 설계 전략 구현: 최소화, 추상화, 숨기기, 분리, 통보, 제어, 강제/증명하기.
• 연합 학습과 동형 암호화와 같은 개인정보 보존 기계학습(PPML) 기법을 도입하여 뇌 데이터 기반 모델 학습을 안전하게 보호하기 위해.
• 투명성(예: 실시간 복호화 피드백)과 사용자 제어(예: 항상 케어진 BCI 비활성화)를 위한 신규 설계 기능 제안하기 위해.
• 구체적인 BCI 응용 사례에 프레임워크를 적용하여 그 확장성과 맥락 적응 능력을 검증하기 위해.

실험 결과

연구 질문

• RQ1 다양한 BCI 응용 맥락에서 개인정보 및 보안 위험을 어떻게 체계적으로 식별하고 모델링할 수 있는가?
• RQ2 뇌 데이터를 보호하면서도 BCI 기능을 유지하기 위해 적용 가능한 실행 가능한 재사용 가능한 설계 전략은 무엇인가?
• RQ3 투명성과 제어 메커니즘을 통해 BCI 시스템에서 사용자 자율성과 정보 자율 결정권을 어떻게 보장할 수 있는가?
• RQ4 개인정보 보존 기계학습 기법은 기능성을 훼손하지 않으면서도 뇌 데이터 처리를 어떻게 보호하는가?
• RQ5 BCI 데이터 개인정보 문제의 특수성을 감안해 규제 및 거버넌스 프레임워크는 어떻게 개선되어야 하는가?

주요 결과

• 제안된 프레임워크는 초기 단계부터 개인정보 및 사이버보안을 통합하는 데 있어 일반적이고 확장 가능하며 실행 가능한 접근법을 제공한다.
• 데이터 최소화, 익명화, 뇌 데이터를 맥락 정보에서 분리하는 개인정보 보호 설계 전략은 개인정보 泄露 위험을 크게 감소시킨다.
• 연합 학습과 동형 암호화와 같은 PPML 기법은 원시 신경 데이터를暴露하지 않고도 뇌 신호 기반 모델 학습을 안전하게 가능하게 한다.
• 실시간으로 어떤 정보가 복호화되는지 피드백을 제공하는 투명성 기능은 사용자에게 정보 자율 결정권을 강화한다.
• 항상 케어진 BCI를 비활성화하는 등의 사용자 제어 메커니즘은 자율성을 유지하고 무단 감시를 방지하는 데 핵심적이다.
• 이 프레임워크는 학술 연구에서부터 상용 뇌게이밍 및 의료 응용에 이르기까지 다양한 BCI 맥락에 적응 가능하다.