[논문 리뷰] Using Deep Networks for Scientific Discovery in Physiological Signals

Tom Beer, Bar Eini-Porat외 3명|arXiv (Cornell University)|2020. 08. 25.

EEG and Brain-Computer Interfaces참고 문헌 31인용 수 6

한 줄 요약

이 논문은 심전도(ECG) 및 뇌파(EEG) 분석에서 깊이 신경망(DNNs)이 기존에 알려진 특징을 재발견하는지, 아니면 새로운 특징을 발견하는지 조사하기 위해 힐버트-슈미트 독립성 기준(HSIC)을 사용하여 수작업 특징에 의존하지 않고 학습하도록 유도하는 방법을 제안한다. ECG와 EEG에 적용된 결과, DNNs는 RR 간격과 P파와 같은 기존 특징을 주로 재발견하지만, 알려진 특징을 제거하면 뇌파에서 눈동자 움직임의 흔적과 같은 새로운 패턴을 강조할 수 있으며, 이는 클래스 활성화 맵을 통해 과학적 가설 검증이 가능하다.

ABSTRACT

Deep neural networks (DNN) have shown remarkable success in the classification of physiological signals. In this study we propose a method for examining to what extent does a DNN's performance rely on rediscovering existing features of the signals, as opposed to discovering genuinely new features. Moreover, we offer a novel method of "removing" a hand-engineered feature from the network's hypothesis space, thus forcing it to try and learn representations which are different from known ones, as a method of scientific exploration. We then build on existing work in the field of interpretability, specifically class activation maps, to try and infer what new features the network has learned. We demonstrate this approach using ECG and EEG signals. With respect to ECG signals we show that for the specific task of classifying atrial fibrillation, DNNs are likely rediscovering known features. We also show how our method could be used to discover new features, by selectively removing some ECG features and "rediscovering" them. We further examine how could our method be used as a tool for examining scientific hypotheses. We simulate this scenario by looking into the importance of eye movements in classifying sleep from EEG. We show that our tool can successfully focus a researcher's attention by bringing to light patterns in the data that would be hidden otherwise.

연구 동기 및 목표

• 심리적 신호 분류에서 깊이 신경망(DNNs)이 주로 수작업으로 설계된 특징을 재발견하는지, 아니면 새로운 과학적으로 의미 있는 표현을 발견하는지 규명하는 것.
• 기존 특징을 DNN의 가설 공간에서 제거함으로써 네트워크가 대체로 새로운 표현을 학습하도록 유도하는 방법을 개발하는 것.
• 클래스 활성화 맵(CAMs)을 활용하여 새로 학습된 표현으로부터 과학적 통찰을 추출하고 해석하는 것.
• 수면 단계 분류 중 뇌파에서 눈동자 움직임의 흔적 존재 여부와 같은 과학적 가설을 검증하기 위해 이 방법의 유용성을 평가하는 것.
• 이 방법의 한계와 다양한 심리적 신호 및 네트워크 아키텍처에 대한 일반화 능력을 평가하는 것.

제안 방법

• 이 방법은 수작업 특징과 통계적으로 종속된 특징 레이어 활성화를 방지하기 위해 힐버트-슈미트 독립성 기준(HSIC)을 사용한다. 이는 통계적 독립성을 강제로 유도한다.
• 예측 오차를 최소화하면서 동시에 네트워크의 내부 표현과 사전 정의된 특징(예: RR 간격, P파) 간의 독립성을 최대화하는 정규화된 손실을 사용하여 DNN을 훈련한다.
• 네트워크는 알려진 특징과 중복되지 않는 표현을 학습하도록 제약을 받으며, 이는 가설 공간에서 특징들을 효과적으로 '제거'하는 것이다.
• 클래스 활성화 맵(CAMs)을 사용하여 예측 과정에서 네트워크가 주목하는 신호 영역을 시각화하고 해석함으로써 새로운 또는 대체되는 특징을 드러낸다.
• 이 방법은 심방세동 탐지에 사용되는 ECG와 수면 단계 분류에 사용되는 EEG에 적용되며, 통제된 환경에서 알려진 특징을 제거한다.
• 눈동자 움직임과 같은 생리적 사건에 대한 가설은 관련 특징을 제거하기 전과 후의 CAM을 비교함으로써 검증되며, 주목할 만한 신호 패턴에 초점을 맞춘다.

실험 결과

연구 질문

• RQ1 심전도(ECG) 분류에 사용되는 깊이 신경망이 RR 간격과 P파와 같은 잘 알려진 수작업 특징을 어느 정도 재발견하는가?
• RQ2 기존 특징이 네트워크의 가설 공간에서 명시적으로 제거될 경우, 깊이 신경망이 심리적 신호에서 새로운 과학적으로 의미 있는 특징을 발견할 수 있는가?
• RQ3 클래스 활성화 맵과 같은 해석 가능성 기법을 어떻게 활용하여 DNN 표현으로부터 새로운 과학적 통찰을 추출하고 검증할 수 있는가?
• RQ4 이 방법을 사용하여 뇌파에서 눈동자 움직임의 흔적과 같은 생리적 신호 성분에 대한 과학적 가설을 검증하고 검증할 수 있는가?
• RQ5 특히 전반적 또는 복잡한 특징에 대해 아키텍처 의존성과 특징 범위 측면에서 이 방법의 한계는 무엇인가?

주요 결과

• 심방세동 분류를 위한 심전도(ECG) 분류에서 DNNs는 RR 간격과 P파와 같은 알려진 특징을 주로 재발견하며, 둘 다 제거되면 성능이 우연수준으로 떨어지므로 이 특징들이 대부분의 분류 신호를 차지하고 있음을 시사한다.
• RR 간격이 제거된 경우, 네트워크의 주의가 심전도의 P파 영역으로 크게 이동함으로써 제약 조건 하에서 알려진 특징을 재발견할 수 있음을 보여준다.
• 가설에 눈동자 움직임의 흔적 존재가 포함되어 있을 경우, 이 방법은 뇌파 신호에서 눈동자 움직임의 흔적을 효과적으로 강조하며, 과학적 가설 검증에 있어 이 방법의 유용성을 확인한다.
• HSIC 기반 정규화는 네트워크의 내부 표현과 사전 정의된 특징 간의 통계적 독립성을 효과적으로 강제함으로써, 이 방법이 가설 공간을 제약할 수 있음을 확인한다.
• 기존 특징이 제거된 경우, 클래스 활성화 맵은 명확하고 해석 가능한 신호 패턴을 드러내며, 연구자들이 이전에 숨겨져 있거나 간과되었던 신호 성분에 집중할 수 있도록 한다.
• 이 방법은 클래스 활성화 맵(CAM)의 요구 조건으로 인해 전역 평균 풀링이 최종 레이어 이전에 있는 CNN 아키텍처에 국한되어 적용 가능성이 제한된다.