[論文レビュー] Transformer Encoder with Multiscale Deep Learning for Pain Classification Using Physiological Signals

Zhenyuan Lu, Burcu Ozek+1 more|PubMed|Mar 13, 2023

Pain Mechanisms and Treatments参考文献 74被引用数 5

ひとこと要約

本稿では、電気皮膚活性（EDA）信号を用いた自動的な痛みの強度分類のため、マルチスケール畳み込みネットワークと圧縮・拡張残差ブロックを備えた新規のトランスフォーマー・エンコーダー・モデル、PainAttnNetを提案する。このモデルは、著しく耐えがたい痛みとの区別を含む、無痛からほぼ耐えがたい痛みまでの分類で85.34%の正確性を達成し、優れた時間的特徴抽出能力と、臨床的に重要な痛みのレベルを区別する際の頑健性を示している。

ABSTRACT

Pain, a pervasive global health concern, affects a large segment of population worldwide. Accurate pain assessment remains a challenge due to the limitations of conventional self-report scales, which often yield inconsistent results and are susceptible to bias. Recognizing this gap, our study introduces PainAttnNet, a novel deep-learning model designed for precise pain intensity classification using physiological signals. We investigate whether PainAttnNet would outperform existing models in capturing temporal dependencies. The model integrates multiscale convolutional networks, squeeze-and-excitation residual networks, and a transformer encoder block. This integration is pivotal for extracting robust features across multiple time windows, emphasizing feature interdependencies, and enhancing temporal dependency analysis. Evaluation of PainAttnNet on the BioVid heat pain dataset confirm the model's superior performance over the existing models. The results establish PainAttnNet as a promising tool for automating and refining pain assessments. Our research not only introduces a novel computational approach but also sets the stage for more individualized and accurate pain assessment and management in the future.

研究の動機と目的

• 自己報告尺度の主観的側面に起因する限界を克服し、生理的信号を用いた客観的で自動的な痛み強度分類手法の開発を目的とする。
• 乳児や認知機能に障害を有する人々のように、自己報告が信頼できない集団における、微細な痛みと重度の痛みのレベルを分類する課題に取り組むこと。
• ウェアラブルEDAセンサとディープラーニングを組み合わせることで、臨床現場における痛みの重症度を正確かつリアルタイムに評価可能にすることで、痛み管理の質を向上させること。
• 時間的特徴抽出の階層的学習と自己アテンション機構の統合により、EDAに基づく痛み分類における表現学習を強化すること。

提案手法

• モデルは、EDA信号からの短時間および長時間窓の時間的特徴を抽出するためにマルチスケール畳み込みネットワーク（MSCN）を採用する。
• チャネル間の依存関係をモデル化し、関連する生理的パターンを強調することで、特徴マップの再キャリブレーションを実現するため、圧縮・拡張残差ネットワーク（SEResNet）を用いる。
• 3つの時間的畳み込みネットワーク（TCN）と3つのマルチヘッドアテンション（MHA）層を備えたトランスフォーマー・エンコーダーは、抽出された特徴における長距離時間的依存関係を捉える。
• MSCNおよびSEResNetによる階層的特徴学習と、自己アテンション機構による時系列EDAデータ上での動的関係モデリングを統合したアーキテクチャを構築する。
• モデルは、交差エントロピー損失を用い、AdamWによる最適化と学習率スケジューリングを伴い、BioVidデータセット上でエンドツーエンドで訓練される。
• フレームワークは、二値分類（無痛対任意の痛み）および多段階痛み強度分類を含む、複数の分類タスクをサポートする。

実験結果

リサーチクエスチョン

• RQ1 マルチスケール畳み込み、アテンション機構、および残差学習を統合したハイブリッドディープラーニングアーキテクチャは、EDAに基づく痛み強度分類の正確性を向上させることができるか？
• RQ2 提案されたPainAttnNetモデルは、最先端のモデルと比較して、無痛と重度の痛み（例：ほぼ耐えがたい痛み）をどの程度明確に区別できるか？
• RQ3 時間的畳み込みネットワークとマルチヘッドアテンションの統合は、痛み分類におけるEDA信号の順序的依存関係のモデリングをどの程度向上させるか？
• RQ4 特に、無痛対高・重度の痛みという臨床的に重要な区別において、モデルは多様な痛み強度レベルにおいても高い性能を維持できるか？

主な発見

• PainAttnNetは、最も挑戦的なタスクである無痛（T₀）とほぼ耐えがたい痛み（T₄）の区別において、85.34%の正確性、85.27%のマクロF1スコア、0.70のCohen Kappaを達成した。
• PainAttnNetは、BioVidデータセット上ですべての最先端手法を上回り、特に無痛対高・重度の痛みの分類において顕著な優位性を示した。
• 二値タスク（無痛対任意の痛み：T₀ 対 T₁–T₄）では80.87%の正確性を達成したが、性能は低かった（Cohen Kappa = 0.09）ことから、一般的な二値分離には課題があると示唆された。
• 無痛対中程度の痛み（T₀ 対 T₂）のタスクでは、68.82%の正確性を達成し、最も優れた先行手法（68.39%）をわずかに上回った。
• モデルは多クラス痛み強度分類において優れた性能を示し、臨床的に有意義な微細な痛みレベルの区別に特に優れていた。
• モジュールのアブレーション解析により、MSCN、SEResNet、およびトランスフォーマー基盤のアテンションの統合が、特徴表現と分類正確性を顕著に向上させたことが確認された。