[논문 리뷰] Subliminal Probing for Private Information via EEG-Based BCI Devices

Mario Frank, Tiffany Hwu외 6명|arXiv (Cornell University)|2013. 12. 20.

EEG and Brain-Computer Interfaces참고 문헌 24인용 수 16

한 줄 요약

이 논문은 소비자용 뇌-computer 인터페이스 장치를 이용해 의식적 인지 이하의 시각 자극(13.3ms 미만)을 노출시켜 개인 정보—예를 들어 익숙한 얼굴을 인식하는 것—을 유추하는 잠재적 공격을 제안한다. 뇌파 신호를 기반으로 한 기계 학습을 통해 27명의 참가자 중 18명에서 인식 반응을 식별하는 데 66.7%의 정확도를 달성했으며, 추측 엔트로피를 최대 48.8%까지 감소시켜, 잠재적 자극을 통한 유추가 사용자에게 감지되지 않도록 가능하고 실제로 실행 가능하다는 것을 입증한다.

ABSTRACT

Martinovic et al. proposed a Brain-Computer-Interface (BCI) -based attack in which an adversary is able to infer private information about a user, such as their bank or area-of-living, by analyzing the user's brain activities. However, a key limitation of the above attack is that it is intrusive, requiring user cooperation, and is thus easily detectable and can be reported to other users. In this paper, we identify and analyze a more serious threat for users of BCI devices. We propose a it subliminal attack in which the victim is attacked at the levels below his cognitive perception. Our attack involves exposing the victim to visual stimuli for a duration of 13.3 milliseconds -- a duration usually not sufficient for conscious perception. The attacker analyzes subliminal brain activity in response to these short visual stimuli to infer private information about the user. If carried out carefully, for example by hiding the visual stimuli within screen content that the user expects to see, the attack may remain undetected. As a consequence, the attacker can scale it to many victims and expose them to the attack for a long time. We experimentally demonstrate the feasibility of our subliminal attack via a proof-of-concept study carried out with 27 subjects. We conducted experiments on users wearing Electroencephalography-based BCI devices, and used portrait pictures of people as visual stimuli which were embedded within the background of an innocuous video for a time duration not exceeding 13.3 milliseconds. Our experimental results show that it is feasible for an attacker to learn relevant private information about the user, such as whether the user knows the identity of the person for which the attacker is probing.

연구 동기 및 목표

• 소비자용 BCI 장치에서 의식적 인지 이하의 시각 자극에 대한 EEG 반응으로부터 비밀 정보를 추출할 수 있는지 조사하기 위해.
• 이전의 의식적 인지에 의존하는 공격는 쉽게 감지 가능하므로 이를 극복하기 위해.
• 뇌파 분석을 통해 은밀한 자극을 통해 비밀 사용자 정보를 추론하는 방법의 실현 가능성을 평가하기 위해.
• 공격자가 인지할 수 없는 자극에 대한 EEG 반응을 통해 비밀 데이터의 추측 엔트로피를 얼마나 줄일 수 있는지 평가하기 위해.

제안 방법

• 의식적 인지 이하의 임계값 이하인 13.3밀리초 미만으로 자극을 제시한다.
• 27명의 참가자로부터 시신경 전기 신호를 기록하였으며, 목표 인물의 잠재적 이미지를 내장한 영상을 시청하는 동안 기록하였다.
• 기계 학습 분류기 모델을 통해 목표 얼굴에 의해 유도된 뇌파 활동과 대조 자극에 의해 유도된 활동을 구분하도록 훈련시켰다.
• 자극을 인지한 참가자와 인지하지 못한 참가자의 분류 성능를 비교하여 감지 가능성 여부를 평가하였다.
• 공격자가 랜덤 추측에 비해 확률적 추론 능력을 얼마나 향상시킬 수 있는지 정량화하기 위해 추측 엔트로피 감소를 계산하였다.
• 잠재적 자극에 대한 사용자 인지 여부를 평가하기 위해 경고 조건을 테스트하였다.

실험 결과

연구 질문

• RQ1 사용자가 의식적으로 인지하지 못하는 시각 자극에 대한 EEG 반응으로부터 비밀 정보를 추론할 수 있는가?
• RQ2 잠재적 자극이 뇌파 반응을 얼마나 명백하게 유도하는가? 이 반응은 기계 학습으로 분류 가능한가?
• RQ3 잠재적 자극을 인지한 참가자와 인지하지 못한 참가자 간에 잠재적 자극의 성공률에 차이가 나는가?
• RQ4 공격자는 잠재적 EEG 자극을 통해 비밀 정보의 추측 엔트로피를 얼마나 줄일 수 있는가?
• RQ5 사용자 인지 또는 경고 조건이 EEG 기반 BCI 장치를 통한 잠재적 정보 泄露 위험을 효과적으로 완화할 수 있는가?

주요 결과

• 분류기는 27명의 참가자 중 18명에서 목표 얼굴 인식을 정확하게 식별하여 성공률 66.7%를 달성했다.
• 공격자의 추측 엔트로피는 평균 20.8% 감소하였으며, 고성능 공격 변형에서는 최대 48.8% 감소하였다.
• 잠재적 자극을 인지한 참가자와 인지하지 못한 참가자 간 성공률에 유의미한 차이가 없었으며, 이는 공격가가 감지되지 않음을 시사한다.
• 자극 후 경고를 제공한 후에도 여전히 잠재적 뇌파 반응이 감지되었으며, 이는 인지 기반 대응의 효과가 제한적임을 시사한다.
• 결과적으로 EEG 기반 BCI 장치를 통한 잠재적 자극이 실현 가능하며, 사용자 감지 없이 확률적 비밀 정보를 추출할 수 있음을 입증한다.
• 다른 EEG 반응 유형에 대해 훈련된 기계 학습 모델도 여전히 잠재적 자극을 탐지할 수 있도록 일반화되며, 이는 공격의 실용성을 높인다.