[論文レビュー] Explainable AI For COVID-19 CT Classifiers: An Initial Comparison Study

Qinghao Ye, Jun Xia+1 more|arXiv (Cornell University)|Apr 25, 2021

COVID-19 diagnosis using AI参考文献 15被引用数 7

ひとこと要約

本研究では、胸部CTスキャンからのCOVID-19分類のための説明可能なAI（XAI）を強化した深層学習モデルを提案する。アテンションに基づくスライス統合とXAI技術（CAM、LIME、SHAP）を統合することで、精度と解釈可能性の両方を向上させた。このモデルは、VBNetなどの最先端手法よりも12.5%高い精度を達成し、病変領域の可視化と特徴の寄与度を提示することで放射線科医の意思決定を支援する。

ABSTRACT

Artificial Intelligence (AI) has made leapfrogs in development across all the industrial sectors especially when deep learning has been introduced. Deep learning helps to learn the behaviour of an entity through methods of recognising and interpreting patterns. Despite its limitless potential, the mystery is how deep learning algorithms make a decision in the first place. Explainable AI (XAI) is the key to unlocking AI and the black-box for deep learning. XAI is an AI model that is programmed to explain its goals, logic, and decision making so that the end users can understand. The end users can be domain experts, regulatory agencies, managers and executive board members, data scientists, users that use AI, with or without awareness, or someone who is affected by the decisions of an AI model. Chest CT has emerged as a valuable tool for the clinical diagnostic and treatment management of the lung diseases associated with COVID-19. AI can support rapid evaluation of CT scans to differentiate COVID-19 findings from other lung diseases. However, how these AI tools or deep learning algorithms reach such a decision and which are the most influential features derived from these neural networks with typically deep layers are not clear. The aim of this study is to propose and develop XAI strategies for COVID-19 classification models with an investigation of comparison. The results demonstrate promising quantification and qualitative visualisations that can further enhance the clinician's understanding and decision making with more granular information from the results given by the learned XAI models.

研究の動機と目的

• 医療画像における深層学習モデルのブラックボックス性、特にCOVID-19 CT分類における課題に対処する。
• 臨床的文脈におけるモデル予測の解釈に向け、複数のXAI技術（CAM、LIME、SHAP）を開発・比較する。
• レントゲン診断医や臨床医が意思決定を透明かつ追跡可能に行えるように、分類性能を向上させつつ、モデル意思決定の透明性を確保する。
• 定量的指標と顕著な特徴の定性的可視化を用いて、公開データセット（CC-CCII）上でモデルを検証する。
• 説明可能なAIが、病変領域と特徴の寄与度を強調することで、臨床的意思決定を向上させることを実証する。

提案手法

• 3次元残差畳み込みニューラルネットワークにスライス統合モジュールを設計し、空間的特徴を保持したままCTスライス間の特徴を集約する。
• U-Netを用いてCTボリュームの初期セグメンテーションを行い、その後ランダムクロッピングとリサイズを224×224ピクセルに実施。水平フリップ増強を50%適用。
• 古典的アテンション機構を適用し、情報量の多いスライスを重み付け、病変領域に注目して分類を実行する。
• Grad-CAMを用いてクラス活性マップを生成し、入力CT画像内の判別的領域を強調する。
• LIMEは入力画像をスーパーピクセルに分割し、モデル予測への局所的寄与度を推定することで適用した。
• SHAP値を計算して、各スーパーピクセルが最終予測に与える正または負の影響を定量化し、グローバルおよびローカルな解釈性を実現した。

実験結果

リサーチクエスチョン

• RQ1 XAI技術は、COVID-19 CT分類における深層学習モデルの解釈性をどのように向上させ得るか？
• RQ2 CAM、LIME、SHAPのうち、どのXAI手法が予測の解釈において最も信頼性が高く臨床的に意味のある説明を提供するか？
• RQ3 アテンションに基づくスライス重み付けを統合することで、標準的な3Dまたは2Dモデルと比較して分類精度が向上するか？
• RQ4 可視化されたサリエンシー（顕著）マップは、病変領域を特定する放射線科医の専門的知識とどの程度一致するか？
• RQ5 説明可能な特徴を用いることで、陽性例へのバイアスを軽減し、陰性例の性能を向上させることができるか？

主な発見

• 提案されたモデルは、VBNetよりも12.5%高い精度を達成し、CTスキャンからのCOVID-19分類において顕著な性能向上を示した。
• Grad-CAMの可視化は病変領域を明確に強調しており、活性マップが一貫して臨床的関心の高い領域に集中していた。
• LIMEベースのスーパーピクセル可視化は、病変を含む領域を最も正の寄与度を持つ特徴として特定し、モデルが病変部に注目していることを確認した。
• SHAP値解析により、病変領域が高水準の正の寄与度を示した一方、背景領域は負の寄与度を示した。これはノイズ抑制を示している。
• スライスレベルのばらつきやラベルのノイズをより効果的に処理できたため、画像レベルのモデル（例：ResNet-50、COVID-Net）よりも優れた性能を発揮した。
• XAI技術の統合により、定量的および定性的なインサイトが得られ、深層学習分類器の信頼性と臨床的有用性が向上した。