[論文レビュー] Multitask Learning Strengthens Adversarial Robustness

Chengzhi Mao, Amogh Gupta+5 more|arXiv (Cornell University)|Jul 14, 2020

Adversarial Robustness in Machine Learning参考文献 58被引用数 12

ひとこと要約

本稿では、マルチタスク学習が出力次元を増加させることで、個々のタスクを標的にする adversarial パーティクルが相殺されることにより、深層ニューラルネットワークにおける adversarial な頑健性を本質的に向上させると提案している。Cityscapes および Taskonomy における実験では、マルチタスクモデルが攻撃下でも mIoU で最大 7 ポints 向上させ、クリーンな精度を維持または向上させ、 adversarial 訓練と補完的であることを示している。

ABSTRACT

Although deep networks achieve strong accuracy on a range of computer vision benchmarks, they remain vulnerable to adversarial attacks, where imperceptible input perturbations fool the network. We present both theoretical and empirical analyses that connect the adversarial robustness of a model to the number of tasks that it is trained on. Experiments on two datasets show that attack difficulty increases as the number of target tasks increase. Moreover, our results suggest that when models are trained on multiple tasks at once, they become more robust to adversarial attacks on individual tasks. While adversarial defense remains an open challenge, our results suggest that deep networks are vulnerable partly because they are trained on too few tasks.

研究の動機と目的

• マルチタスク学習が深層ニューラルネットワークにおける adversarial な頑健性を向上させるかどうかを調査すること。
• マルチタスク学習が adversarial 攻撃に対して耐性を高める理論的メカニズムを理解すること。
• 実世界のデータセット上で単一タスクおよびマルチタスク攻撃の下でのマルチタスクモデルの頑健性向上を実証的に評価すること。
• マルチタスク学習が adversarial 訓練のような既存の防御と補完的であるかどうかを評価すること。
• 現在のモデルが、訓練に使用されるタスク数が少なすぎるがゆえに脆弱である部分があることを示すこと。

提案手法

• 理論的分析では、1次の脆弱性バウンドを用いて、マルチタスク学習による出力次元の増加が、異なるタスク間で adversarial パーティクルが相殺されることで頑健性を向上させることを示している。
• 実証的評価では、最大 11 個の視覚タスクを含む 2 つのデータセット（Cityscapes および Taskonomy）を用い、110 個のマルチタスクモデル（11 個の主要タスク × 10 個の補助タスク）を訓練した。
• モデルは、$L_\infty = 4$ で 50 ステップの PGD 攻撃の下で評価され、クリーンな性能と adversarial 性能の両方が測定された。
• アブレーションスタディでは、単一タスクベースラインとマルチタスクモデルを比較し、セグメンテーションの mIoU と深度推定の絶対誤差を測定した。
• マルチタスク学習と adversarial 訓練を組み合わせ、頑健性の向上が補完的であるかをテストした。
• 各タスクごとにハイパーパrameter $\lambda_a$ を調整（0.1 または 0.01）して、主要タスクと補助タスクの損失のバランスをとった。

実験結果

リサーチクエスチョン

• RQ1 マルチタスク学習は単一タスク学習と比較して adversarial な頑健性を向上させるか？
• RQ2 マルチタスク学習による出力次元の増加は、adversarial 攻撃の成功率にどのように影響するか？
• RQ3 マルチタスク学習は adversarial 訓練と組み合わせて、クリーン性能と頑健性の両方を向上させることができるか？
• RQ4 頑健性の向上は、複数のタスク間でのパラメータの相殺によるものか？
• RQ5 攻撃が1つのタスクに限定されても、マルチタスク学習は頑健性を向上させるか？

主な発見

• すべての 11 タスクが攻撃を受ける状況では、マルチタスク学習によりセグメンテーションの mIoU 頑健性が最大 7 ポイント向上し、他のタスクの誤差も最大 60% 減少した（単一タスクベースラインと比較）。
• 主なタスクのみが攻撃を受ける状況では、マルチタスク学習によりセグメンテーションの mIoU が最大 6 ポイント向上し、補助タスクの誤差も最大 23% 減少した。
• Taskonomy データセットでは、110 のケースのうち 90 ケースでマルチタスク学習が adversarial 性能を向上させ、PGD 攻撃下での平均相対改善率は 10.23% であった。
• Cityscapes では、$L_\infty = 4$ 攻撃下で、マルチタスク学習により adversarially trained モデルのセグメンテーションで 2.40 mIoU ポイント向上し、深度推定で 8.4 ポイント向上した。
• マルチタスク学習は 110 ケースのうち 70 ケースでクリーンな性能を維持または向上させ、90 ケースで顕著な頑健性の向上を達成した。
• この手法は adversarial 訓練と補完的であり、最先端モデルのクリーン性能と頑健性の両方を向上させた。