[논문 리뷰] Discovering Dynamic Functional Brain Networks via Spatial and Channel-wise Attention

Yiheng Liu, Enjie Ge외 7명|arXiv (Cornell University)|2022. 05. 19.

Functional Brain Connectivity Studies인용 수 6

한 줄 요약

이 논문은 슬라이딩 윈도우에 의존하지 않고 휴식 상태 fMRI 데이터로부터 동적 기능적 뇌망원(Dynamic Functional Brain Networks, FBNs)을 탐지하기 위해 공간적 및 채널별 주의 메커니즘을 통합한 자동에코더(Spatial and Channel-wise Attention Autoencoder, SCAAE)를 제안한다. 공간적 주의를 통해 공간적으로 상호작용하는 FBNs를 탐지하고, 채널별 주의를 통해 관련성이 높은 네트워크를 자동으로 선택함으로써, 선형성과 독립성 가정을 제거하면서도 일시적이고 시간에 따라 변화하는 뇌망원 동역학을 효과적으로 포착한다. 이는 표준 ICA 템플릿과 높은 공간 유사도를 유지하면서도 더 빠른 추론 성능을 달성한다.

ABSTRACT

Using deep learning models to recognize functional brain networks (FBNs) in functional magnetic resonance imaging (fMRI) has been attracting increasing interest recently. However, most existing work focuses on detecting static FBNs from entire fMRI signals, such as correlation-based functional connectivity. Sliding-window is a widely used strategy to capture the dynamics of FBNs, but it is still limited in representing intrinsic functional interactive dynamics at each time step. And the number of FBNs usually need to be set manually. More over, due to the complexity of dynamic interactions in brain, traditional linear and shallow models are insufficient in identifying complex and spatially overlapped FBNs across each time step. In this paper, we propose a novel Spatial and Channel-wise Attention Autoencoder (SCAAE) for discovering FBNs dynamically. The core idea of SCAAE is to apply attention mechanism to FBNs construction. Specifically, we designed two attention modules: 1) spatial-wise attention (SA) module to discover FBNs in the spatial domain and 2) a channel-wise attention (CA) module to weigh the channels for selecting the FBNs automatically. We evaluated our approach on ADHD200 dataset and our results indicate that the proposed SCAAE method can effectively recover the dynamic changes of the FBNs at each fMRI time step, without using sliding windows. More importantly, our proposed hybrid attention modules (SA and CA) do not enforce assumptions of linearity and independence as previous methods, and thus provide a novel approach to better understanding dynamic functional brain networks.

연구 동기 및 목표

• fMRI 데이터로부터 일시적이고 동적 기능적 뇌망원(FBNs)을 포착하는 데 있어 정적 및 슬라이딩 윈도우 기반 방법의 한계를 해결하기 위해.
• 기존 접근법에서 수동적인 FBN 수 선택 및 히우리스틱 윈도우 크기 설정에 의존하는 문제를 해결하기 위해.
• 기존 ICA 및 GLM과 같은 전통적 모델에서의 선형성 및 통계적 독립성에 대한 제약 조건을 제거하기 위해.
• 각 fMRI 시간 단계에서 종단간(end-to-end), 자동으로 동적 FBNs를 탐지할 수 있는 딥러닝 프레임워크를 개발하기 위해.
• 전체 인코더-디코더 재구성 과정을 건너뛰고 주의 모듈 출력에만 집중함으로써 더 빠른 추론 메커니즘을 제공하기 위해.

제안 방법

• 큰 커널 크기를 갖춘 3D 컨볼루션 자동에코더를 도입하여 fMRI 신호를 인코딩하면서 수용장역을 확장한다.
• 각 시간 단계에서 기능적 네트워크를 이룰 뇌 영역을 강조하는 공간적 주의(Spatial-wise Attention, SA) 모듈을 제안한다.
• 특징 채널을 적응적으로 가중하여 가장 관련성이 높은 FBNs를 자동으로 선택하는 채널별 주의(Channel-wise Attention, CA) 모듈을 통합한다.
• SA 및 CA 모듈의 출력을 그대로 FBN 구축에 사용하여 반복적 계수 학습이나 전체 디코더 추론이 필요 없도록 한다.
• 선형성 또는 독립성 가정 없이 공간적 상호작용과 채널 중요도를 동시에 모델링하는 이중 주의 메커니즘을 적용한다.
• 기준 ICA 템플릿과의 비교를 위해 IoU 기반 유사도 지표를 사용하여 벤치마크 평가를 수행한다.

실험 결과

연구 질문

• RQ1 주의 메커니즘을 갖춘 딥러닝 모델이 슬라이딩 윈도우 없이 각 fMRI 시간 단계에서 동적 FBNs를 탐지할 수 있는가?
• RQ2 기존 방법과 비교해 볼 때 제안된 SCAAE 방법이 일시적이고 변화하는 기능적 네트워크 상태를 어느 정도 잘 포착하는가?
• RQ3 주의 기반 FBN 탐지 성능이 기존 ICA 템플릿과의 공간 유사도 측면에서 얼마나 우수한가?
• RQ4 채널별 주의 모듈이 수동 조작이나 사전 정의된 네트워크 수 없이도 의미 있는 FBNs를 자동으로 선택할 수 있는가?
• RQ5 제안된 방법에 의해 드러난 기능적 네트워크 상태 전이의 시간 역학 패턴은 어떠한가?

주요 결과

• SCAAE는 슬라이딩 윈도우 없이도 각 시간 단계에서 동적 FBNs를 성공적으로 복원하여 기능적 네트워크 진화의 연속적이고 시간 해상도가 높은 시각을 가능하게 한다.
• SCAAE 예측 FBNs와 ICA 템플릿 간 평균 IoU는 KKI 기준 0.4071, PU 기준 0.4955, NYU 기준 0.5024, NI 기준 0.5103를 기록하여 단일 시간 단계 모델임에도 불구하고 강한 공간 유사도를 보였다.
• 모델은 시간이 지남에 따라 FBNs가 점진적으로 변화하는 경향을 보였으며, 네 개의 ADHD200 데이터셋 사이트에서 연속된 시간 단계 간 평균 IoU 범위는 0.4071에서 0.5103 사이였다.
• 기능적 네트워크 상태 전이 분석 결과, 템플릿 0이 가장 자주 활성화되고 가장 높은 연결성을 보였고, 템플릿 8는 실제로 발생하지 않았으며 이는 이론적 구성일 수 있음을 시사했다.
• 단일 시간 단계 모델임에도 불구하고 그룹 기반 ICA/SDL에 비해 열등한 조건이었음에도 불구하고 경쟁적인 성능를 달성하여, SCAAE의 효과성과 의미 있는 성능를 입증했다.
• 전체 인코더-디코더 재구성 과정을 생략하고 주의 모듈 출력에만 의존함으로써 모델의 추론 속도가 이전 방법들보다 크게 향상되었다.