[論文レビュー] Hybrid Spiking Neural Network Fine-tuning for Hippocampus Segmentation

Ye Yue, Marc Baltes+5 more|arXiv (Cornell University)|Feb 14, 2023

Advanced Memory and Neural Computing被引用数 4

ひとこと要約

本稿では、MRIスキャンにおける海馬セグメンテーションのためのハイブリッドスパikingニューラルネットワーク（SNN）微調整手法を提案する。この手法は、ANN-SNN変換とスパイクベースの誤差逆伝播を組み合わせることで、精度と学習効率を向上させる。提案手法は、直接SNN学習と比較して収束時間を80％以上短縮し、元のANNに近いセグメンテーション性能を達成する。

ABSTRACT

Over the past decade, artificial neural networks (ANNs) have made tremendous advances, in part due to the increased availability of annotated data. However, ANNs typically require significant power and memory consumptions to reach their full potential. Spiking neural networks (SNNs) have recently emerged as a low-power alternative to ANNs due to their sparsity nature. SNN, however, are not as easy to train as ANNs. In this work, we propose a hybrid SNN training scheme and apply it to segment human hippocampi from magnetic resonance images. Our approach takes ANN-SNN conversion as an initialization step and relies on spike-based backpropagation to fine-tune the network. Compared with the conversion and direct training solutions, our method has advantages in both segmentation accuracy and training efficiency. Experiments demonstrate the effectiveness of our model in achieving the design goals.

研究の動機と目的

• 医療画像セグメンテーションにおける人工ニューラルネットワーク（ANN）の高い計算コストと消費電力の問題に対処すること。
• ANN-SNN変換の限界を克服すること。変換によるニューロンの活性化不足により、閾値が不適切になり、性能が低下する場合があるため。
• 医療画像セグメンテーション、特に海馬セグメンテーションの文脈において、スパイクニューラルネットワーク（SNN）の精度と学習効率を向上させること。
• U型ネットワークアーキテクチャ（例：U-Net）を用いた医療画像分野におけるハイブリッドSNN微調整の実現可能性と有効性を示すこと。

提案手法

• 本手法は、事前に訓練済みのU-Net（ANN）モデルから出発し、標準的なANNからSNNへの変換技術を用いてSNNに変換する。
• SNNの発火閾値は、事前に訓練済みのANNの重みに基づき初期化され、200タイムステップを用いたタイムステップベースの変換手法が採用される。
• サロゲート勾配を用いたスパイクベースの誤差逆伝播アルゴリズムを適用し、変換段階で得られた不適切な閾値を補正するためのSNN重みの微調整が行われる。
• 微調整プロセスでは、Adam最適化アルゴリズムを用い、ReduceLROnPlateauによる学習率スケジューリングが実施され、バッチサイズ26で35エポックにわたり学習が行われる。
• セグメンテーション性能の最適化を図るため、BCE、Dice、およびBCE-Diceの3つの損失関数が評価される。
• 本手法は、ADNIデータセットを用いた5分割交差検証で評価され、入力パッチサイズは24×56×48である。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドSNN微調整アプローチは、標準的なANN-SNN変換と比較して、セグメンテーション精度を向上させることができるか？
• RQ2 スパイクベースの誤差逆伝播による微調整は、直接SNN学習と比較して、学習時間の短縮と収束速度の向上を達成できるか？
• RQ3 提案手法は、元のANNに近い性能を維持しながら、低消費電力の特性を保ち続けられるか？
• RQ4 損失関数の選択（BCE、Dice、BCE-Dice）が、微調整済みSNNの最終的なセグメンテーション精度にどのように影響するか？

主な発見

• BCE-Dice損失で学習した微調整済みSNNは、3次元Diceスコアが81.95±3.24を達成し、ANNの83.14±1.59に非常に近い性能を示した。
• 変換のみで得られたSNNの3次元Diceスコアは52.78±14.73にとどまり、顕著に低い水準であった。これは、変換後における微調整の重要性を強く示している。
• 微調整済みSNNの平均収束時間は10.11エポック（±4.90）であり、直接SNN学習に通常要する約60エポックと比較して顕著に短縮された。
• 発火周波数解析の結果、微調整後にはニューロンの活性化が増加しており、ネットワークの応答性が向上し、正解マスクとの整合性が高まっていることが確認された。
• Dice損失関数が3つの損失関数の中で最も優れた性能を示し、微調整済みSNNは2次元Diceスコア78.09±3.85、3次元Diceスコア81.86±4.40を達成した。
• 可視化比較（図2）により、微調整済みSNNが元のSNNと比較して、形状とサイズの点で正解マスクにはるかに近いセグメンテーションマスクを生成していることが確認された。