[논문 리뷰] Deep Learning Architectures for FSCV, a Comparison

Thomas Twomey, Leonardo Rodrigues Barbosa외 2명|arXiv (Cornell University)|2022. 12. 05.

Advanced Chemical Sensor Technologies인용 수 4

한 줄 요약

이 연구는 임상 신경외과 적용을 위한 FSCV 데이터에서 신경전달물질 농도를 예측하기 위해 딥 러닝 아키텍처를 평가한다. 주요 초점은 프로브 외부 일반화, 노이즈 내성, 오류 탐지이다. InceptionTime는 예측 정확도가 가장 높았지만 전기적 노이즈에 가장 민감했고, 단순한 다층 퍼셉트론(MLP)은 정확도가 두 번째로 높았으며 노이즈에 대한 내성은 뛰어나, 이 작업에서 컨볼루션의 중요성이 예상보다 낮을 수 있음을 시사한다.

ABSTRACT

We examined multiple deep neural network (DNN) architectures for suitability in predicting neurotransmitter concentrations from labeled in vitro fast scan cyclic voltammetry (FSCV) data collected on carbon fiber electrodes. Suitability is determined by the predictive performance in the "out-of-probe" case, the response to artificially induced electrical noise, and the ability to predict when the model will be errant for a given probe. This work extends prior comparisons of time series classification models by focusing on this specific task. It extends previous applications of machine learning to FSCV task by using a much larger data set and by incorporating recent advancements in deep neural networks. The InceptionTime architecture, a deep convolutional neural network, has the best absolute predictive performance of the models tested but was more susceptible to noise. A naive multilayer perceptron architecture had the second lowest prediction error and was less affected by the artificial noise, suggesting that convolutions may not be as important for this task as one might suspect.

연구 동기 및 목표

• 임상 신경외과 적용을 위한 FSCV 데이터에서 신경전달물질 농도를 예측하기에 가장 적합한 딥 러닝 아키텍처를 규명하기 위해.
• 모델이 미리 보지 않은 전극(프로브)에 대해 일반화할 수 있는지 평가하기 위해.
• 실제 생체 환경에서의 전기적 노이즈를 모의한 조건에서의 내성 평가를 위해.
• 모델 임bedding이 비정상적인 프로브 또는 일반화 성능이 떨어지는 경우를 탐지할 수 있는지 조사하기 위해.
• 최근의 딥 러닝 기법이 이전 방법에 비해 FSCV 시계열 데이터의 회귀 성능을 향상시키는지 판단하기 위해.

제안 방법

• 76개의 탄소섬유 프로브에서 확보한 대규모 in vitro FSCV 데이터셋을 바탕으로, InceptionTime, 완전 컨볼루션 네트워크(FCN), EEG-Transformer, 다층 퍼셉트론(MLP) 등 다양한 딥 네트워크 아키텍처를 훈련하고 비교하였다.
• 정확한 비교를 위해 모든 모델이 InceptionTime와 동일한 파라미터 수와 훈련 절차를 갖도록 표준화하였다.
• 복잡한 전처리 없이 정규화된 원시 전류 트레이스를 입력으로 사용하였으며, 고정된 시간적 구조를 갖는 시계열 회귀 문제로 간주하였다.
• 예측 정확도(RMSE), 인위적 60 Hz 전기 노이즈에 대한 반응, 그리고 임베딩 거리 측도를 통한 비정상 프로브 탐지 등 세 가지 기준으로 모델을 평가하였다.
• 시험 프로브의 모델 임베딩과 훈련 분포 간의 마할라노비스 거리와 프리에트 거리를 계산하여 분포 외부의 경우를 식별하였다.
• 일부 모델에서는 전류 트레이스의 수치적 1차 도함수를 사용하였으며, 이는 노이즈에 대한 민감도를 증가시켰다.

실험 결과

연구 질문

• RQ1 어느 딥 러닝 아키텍처가 FSCV 기반의 신경전달물질 농도 추정에서 가장 높은 예측 정확도를 달성하는가?
• RQ2 다양한 아키텍처는 인위적 전기 노이즈(실제 생체 환경을 모의)에 어떻게 반응하는가?
• RQ3 모델 임베딩은 훈련 분포 외부에 있는 프로브 또는 일반화 성능이 떨어지는 경우를 탐지할 수 있는가?
• RQ4 이 고정 시간 FSCV 회귀 작업에서 컨볼루션의 포함이 유의미한 이점을 제공하는가?
• RQ5 다양한 신경전달물질(DA, 5HT, NE)과 pH 조건에서 모델 성능는 어떻게 변화하는가?

주요 결과

• InceptionTime는 모든 분석 물질에서 가장 낮은 RMSE(최고의 절대 예측 성능)를 기록하여, FSCV 데이터에서 강력한 회귀 능력을 갖춘 것으로 확인되었다.
• 단순한 다층 퍼셉트론(MLP)은 정확도에서 두 번째로 높았으며, 더 깊은 아키텍처들보다 인위적 전기 노이즈에 훨씬 더 뛰어난 내성을 보였다.
• 모든 모델이 비정상적인 프로브에서 성능이 저하되었으며, 성능은 프로브 임베딩과 훈련 분포 간의 마할라노비스 거리와 강하게 상관관계가 있었다.
• InceptionTime의 두 번째로 마지막 레이어가 최종 레이어보다 더 효과적인 임베딩을 제공하였으며, 분포 특성은 더 우수하고 차원 수는 더 낮았다.
• 모델에 수치적 도함수를 포함시킬 경우 노이즈 민감도가 악화되었으며, 특히 전류 스weep의 평탄한 영역에서 작은 피크가 큰 도함수 변화를 유도하여 문제가 커졌다.
• 이 연구는 FSCV에서 전류 특징이 시간적으로 고정되어 있기 때문에 컨볼루션 레이어의 유용성이 제한적일 수 있으며, 노이즈 내성 측면에서 더 단순한 모델인 MLP가 더 바람직할 수 있음을 시사한다.