[論文レビュー] Fuzzy Unique Image Transformation: Defense Against Adversarial Attacks On Deep COVID-19 Models

Achyut Mani Tripathi, Ashish Mishra|arXiv (Cornell University)|Sep 8, 2020

COVID-19 diagnosis using AI参考文献 50被引用数 9

ひとこと要約

本稿では、画像画素をファジィ区間にマッピングすることで、一意な画素値の分散を低減し、敵対的攻撃に対する耐性を向上させる前処理手法であるファジィユニークイメージトランスフォーメーション（FUIT）を提案する。COVID-19のチ胸X線およびCTスキャン画像に対して深層学習モデルを訓練する前にFUITを適用することで、敵対的攻撃6種類（PGDやBIMを含む）に対し、85%を超える精度を達成しながらも、診断精度を高く維持（最高88.31%）できる。

ABSTRACT

Early identification of COVID-19 using a deep model trained on Chest X-Ray and CT images has gained considerable attention from researchers to speed up the process of identification of active COVID-19 cases. These deep models act as an aid to hospitals that suffer from the unavailability of specialists or radiologists, specifically in remote areas. Various deep models have been proposed to detect the COVID-19 cases, but few works have been performed to prevent the deep models against adversarial attacks capable of fooling the deep model by using a small perturbation in image pixels. This paper presents an evaluation of the performance of deep COVID-19 models against adversarial attacks. Also, it proposes an efficient yet effective Fuzzy Unique Image Transformation (FUIT) technique that downsamples the image pixels into an interval. The images obtained after the FUIT transformation are further utilized for training the secure deep model that preserves high accuracy of the diagnosis of COVID-19 cases and provides reliable defense against the adversarial attacks. The experiments and results show the proposed model prevents the deep model against the six adversarial attacks and maintains high accuracy to classify the COVID-19 cases from the Chest X-Ray image and CT image Datasets. The results also recommend that a careful inspection is required before practically applying the deep models to diagnose the COVID-19 cases.

研究の動機と目的

• 微小な画素摂動を利用した攻撃によって脆弱である、COVID-19の医用画像からの深層学習モデルの診断に対する脆弱性を是正すること。
• 診断精度を損なうことなくモデルの耐性を向上させる前処理技術を開発すること。
• 実世界のCOVID-19画像データセット上で、複数のホワイトボックス敵対的攻撃に対する本手法の有効性を評価すること。
• FUITが、クリーン画像と敵対的画像の間で一意な画素値の分散を低減することで、モデルの摂動に対する感受性を制限すること。

提案手法

• FUITは、事前に定義されたファジィ集合を用いて各画素値をファジィ区間にマッピングし、画素値の多様性が低減された表現に画像を変換する。
• 変換により、クリーン画像と敵対的画像の両方で一意な画素値の数が等しくなるように保証され、攻撃者が検出可能な統計的差を最小限に抑える。
• ファジィ集合は画素強度範囲を区間へ分割するように構築され、画像間で一貫したダウンサンプリングを可能にする。
• FUIT変換済み画像を用いて深層学習モデルを再訓練し、PGD、BIM、FGSM、CW、DeepFool、PGD-rを含む6種類の敵対的攻撃に対して耐性を評価する。
• 本手法は2つのデータセット（胸X線およびCTスキャン画像）で評価され、FUITを適用したモデルと適用しないモデルを比較する。
• 耐性は、PGD、BIM、FGSM、CW、DeepFool、PGD-rを含むさまざまな敵対的攻撃下での分類精度によって測定される。

実験結果

リサーチクエスチョン

• RQ1 FUITのような前処理技術は、医用画像分類における深層学習モデルの敵対的攻撃に対して効果的に防御できるか？
• RQ2 FUITをCOVID-19のX線およびCTスキャン画像に適用した場合、深層モデルの診断精度にどのような影響を与えるか？
• RQ3 FUITは、クリーン画像と敵対的画像の間で一意な画素値の分散をどの程度低減するか？
• RQ4 FUITを用いたモデルは、複数の敵対的攻撃タイプに対して、ベースラインモデルと比較してどの程度耐性が高いか？

主な発見

• FUIT変換済みモデル（M13–M18）は、最も攻撃が激しいBIM攻撃下でも分類精度が85%以上を維持し、特にM13では85.21%の精度を達成した。
• これに対して、ベースラインモデル（M10–M12）はBIM攻撃下で精度が8.12%まで低下し、極めて脆弱であることが示された。
• PGD攻撃下では、FUITベースモデルが86.12%の精度（M13）を達成した一方、非FUITモデルは48.19%（M10）まで低下した。
• FUIT手法は、クリーンCT画像においても高い診断精度（最高88.31%）を維持しており、最先端モデルと同等の性能を示した。
• FUITは、クリーン画像と敵対的画像の間で一意な画素値の数を効果的に均一化し、攻撃者が利用する統計的差を低減した。
• 視覚的検査により、敵対的画像が人間にはクリーン画像と区別がつかないことが確認されたが、FUITを適用しないモデルは誤って分類されることがあり、防御機構の必要性を浮き彫りにした。