[논문 리뷰] Hyperdimensional computing encoding for feature selection on the use case of epileptic seizure detection

Una Pale, Tomás Teijeiro외 1명|arXiv (Cornell University)|2022. 05. 16.

Ferroelectric and Negative Capacitance Devices인용 수 7

한 줄 요약

이 논문은 뇌전증 발작 탐지에 적합한 새로운 초차원(HD) 계산 프레임워크를 제안하며, 뇌전도 신호의 최적화된 HD 벡터 인코딩을 통해 특성 선택 기능을 구현한다. 특성 추가 및 채널-특성 조합과 같은 인코딩 전략을 비교함으로써, HD 기반 특성 선택이 모델 복잡도를 감소시키면서도 성능을 향상시키거나 유지함을 입증한다. 이는 생물의학 기계학습 분야에서 체계적인 특성 선택을 위한 초차원 계산의 첫 적용 사례이다.

ABSTRACT

The healthcare landscape is moving from the reactive interventions focused on symptoms treatment to a more proactive prevention, from one-size-fits-all to personalized medicine, and from centralized to distributed paradigms. Wearable IoT devices and novel algorithms for continuous monitoring are essential components of this transition. Hyperdimensional (HD) computing is an emerging ML paradigm inspired by neuroscience research with various aspects interesting for IoT devices and biomedical applications. Here we explore the not yet addressed topic of optimal encoding of spatio-temporal data, such as electroencephalogram (EEG) signals, and all information it entails to the HD vectors. Further, we demonstrate how the HD computing framework can be used to perform feature selection by choosing an adequate encoding. To the best of our knowledge, this is the first approach to performing feature selection using HD computing in the literature. As a result, we believe it can support the ML community to further foster the research in multiple directions related to feature and channel selection, as well as model interpretability.

연구 동기 및 목표

• 뇌전도 신호와 같은 시공간 생물의학 데이터에 대한 체계적인 초차원 벡터 인코딩 전략의 부족 문제를 해결하기 위해.
• 다양한 HD 인코딩 체계가 뇌전증 발작 탐지에서 특성 선택, 성능 및 메모리 효율성에 미치는 영향을 탐구하기 위해.
• 문헌상 최초로 초차원 계산을 활용해 인코딩 설계를 통해 특성 선택을 수행할 수 있음을 입증하기 위해.
• HD 벡터 표현을 통해 개별 특성 기여도를 분석함으로써 모델의 해석 가능성 확보를 위해.
• 지속적인 건강 모니터링을 위한 웨어러블 IoT 기기에서 경량화, 에너지 효율성 및 해석 가능성 확보를 위한 가벼운, 효율적인 기계학습 모델 개발 지원을 위해.

제안 방법

• 뇌전도 특성과 채널을 고차원 벡터로 인코딩하기 위한 여러 HD 벡터 인코딩 전략(FeatAppend, ChFeatComb, ChxFeat, Feat×Ch×Val)을 제안한다.
• 각 특성 또는 채널을 별개의 초벡터로 인코딩하는 초차원 계산 프레임워크를 사용하며, 덧셈 및 바인딩과 같은 연산을 통해 조합을 구현한다.
• 특성 중요도 평가를 위해 점진적 특성 추가 접근법을 적용하여, 특성 하나씩을 추가함으로써 성능 변화를 측정한다.
• CHB-MIT 뇌전도 데이터베이스를 사용하여 메모리 용량, 계산 복잡도 및 분류 정확도 기반으로 인코딩 전략을 평가한다.
• 신뢰도 점수, 의사결정 확률 및 클래스 간 분리도를 활용해 개별 특성의 성능을 분석함으로써 특성 순위 매기기 및 선택을 가능하게 한다.
• FeatAppend 방법을 채널 선택 및 발작 국소화 분석을 고려해 ChannelAppend로 변형한다.

실험 결과

연구 질문

• RQ1 EEG 기반 발작 탐지에 적합한 HD 벡터 인코딩 전략은 메모리 효율성, 계산 비용 및 분류 성능 간 최적의 균형을 어떻게 달성하는가?
• RQ2 초차원 계산은 생물의학 기계학습, 특히 EEG 데이터에 대해 체계적인 특성 선택을 효과적으로 활용할 수 있는가?
• RQ3 특성당 HD 벡터의 유저 수가 발작 탐지 작업에서 모델 성능과 정보 용량에 미치는 영향은 어떠한가?
• RQ4 HD 벡터 표현을 통해 개별 특성 기여도 및 상관관계를 분석함으로써 모델의 해석 가능성은 어느 정도 달성될 수 있는가?
• RQ5 제안된 인코딩 프레임워크는 지속적인 신경학적 모니터링을 위한 웨어러블 IoT 기기에서 경량화, 실시간 배포를 지원할 수 있는가?

주요 결과

• FeatAppend 인코딩 전략은 가장 낮은 메모리 및 계산 비용을 기록하여 자원 제약이 있는 웨어러블 기기에서 가장 적합하다.
• 모든 테스트된 인코딩 전략은 전체 특성을 사용할 경우와 비교해 특성 수를 크게 감소시키면서도 성능을 유지하거나 향상시켰다.
• FeatAppend가 제공하는 점진적 특성 추가 접근법을 통해 효과적인 특성 선택이 가능했으며, 가장 정보량이 많은 특성들만 선택할 경우 성능 향상이 관찰되었다.
• HD 벡터를 통한 개별 특성 분석을 통해 특성 신뢰도, 분리도 및 상관관계에 대한 통찰을 확보했으며, 이는 모델의 해석 가능성과 임상적 이해를 지원한다.
• FeatAppend 방법은 HD 인코딩을 통한 체계적 특성 선택이 가능함을 입증했으며, 이는 문헌상 최초의 사례이다.
• 계산 자원의 제약에도 불구하고 CHB-MIT 데이터베이스의 부분 선택 조차도 강력한 성능을 보였으며, 전체 데이터베이스 사용 및 GPU 최적화 시 확장 가능성이 있음을 시사한다.