[論文レビュー] Transformers in Healthcare: A Survey

Subhash Nerella, Sabyasachi Bandyopadhyay+10 more|arXiv (Cornell University)|Jun 30, 2023

Artificial Intelligence in Healthcare and Education被引用数 12

ひとこと要約

Transformerアーキテクチャが医療データ（画像、電子カルテ EHR、ソーシャルメディア、信号、そして生体分子配列）に多様に適用される方法と、それに伴う利益、制約、倫理的考慮を survey したもの。

ABSTRACT

With Artificial Intelligence (AI) increasingly permeating various aspects of society, including healthcare, the adoption of the Transformers neural network architecture is rapidly changing many applications. Transformer is a type of deep learning architecture initially developed to solve general-purpose Natural Language Processing (NLP) tasks and has subsequently been adapted in many fields, including healthcare. In this survey paper, we provide an overview of how this architecture has been adopted to analyze various forms of data, including medical imaging, structured and unstructured Electronic Health Records (EHR), social media, physiological signals, and biomolecular sequences. Those models could help in clinical diagnosis, report generation, data reconstruction, and drug/protein synthesis. We identified relevant studies using the Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) guidelines. We also discuss the benefits and limitations of using transformers in healthcare and examine issues such as computational cost, model interpretability, fairness, alignment with human values, ethical implications, and environmental impact.

研究の動機と目的

• Transformerが医療データモダリティ（画像、構造化/非構造化EHR、ソーシャルメディア、生理信号、生体分子配列）全体でどのように使用されているかを要約する。
• 診断支援、レポート生成、データ再構成、薬物/タンパク質合成など、Transformerによって実現される臨床応用を特定する。
• 計算コスト、解釈性、公平性、人間の価値観への整合性、倫理的・環境影響など、方法論上の考慮事項を論じる。

提案手法

• PRISMAガイドラインを用いて関連する Transformer ベースの医療研究を特定するために文献を reviewする。
• データモダリティとタスク（診断、生成、再構成、合成）別に応用を分類する。
• 医療領域におけるトランスフォーマーモデルの利点、制限、実務上の考慮事項を論じる。
• 解釈性、公平性、人間の価値観との整合性、倫理、環境影響の課題を強調する。

実験結果

リサーチクエスチョン

• RQ1 医療分野でトランスフォーマーはどのデータモダリティに適用されているか？
• RQ2 医療においてトランスフォーマーはどの臨床タスクを支援しているか（例：診断、レポート生成、データ再構成、合成）？
• RQ3 医療でトランスフォーマーを用いることの利点、制限、倫理的・環境的配慮は何か？

主な発見

• Transformersは医療用画像、EHRデータ（構造化および非構造化）、ソーシャルメディア、生理信号、そして生体分子配列に適用されている。
• 応用例として臨床診断支援、レポート生成、データ再構成、薬物/タンパク質合成が含まれる。
• 本総説はコスト、解釈性、公平性、人間の価値観との整合性、倫理的含意、及び医療用トランスフォーマーの環境影響を論じている。