[論文レビュー] RobOT: Robustness-Oriented Testing for Deep Learning Systems

Jingyi Wang, Jialuo Chen+5 more|arXiv (Cornell University)|Feb 11, 2021

Adversarial Robustness in Machine Learning参考文献 49被引用数 4

ひとこと要約

本稿では、FOL（特徴量別外れ値尤度）と呼ばれる新しい指標を用いてテストケース生成と再訓練を誘導する、深層学習システム向けの耐性指向のテストフレームワーク、RobOTを提案する。耐性向上に最も寄与するテストケースを優先することで、RobOTは敵対的耐性を67.02%向上させた。これは、最先端手法であるDeepGiniよりも50.65%高い。

ABSTRACT

Recently, there has been a significant growth of interest in applying software engineering techniques for the quality assurance of deep learning (DL) systems. One popular direction is deep learning testing, where adversarial examples (a.k.a.~bugs) of DL systems are found either by fuzzing or guided search with the help of certain testing metrics. However, recent studies have revealed that the commonly used neuron coverage metrics by existing DL testing approaches are not correlated to model robustness. It is also not an effective measurement on the confidence of the model robustness after testing. In this work, we address this gap by proposing a novel testing framework called Robustness-Oriented Testing (RobOT). A key part of RobOT is a quantitative measurement on 1) the value of each test case in improving model robustness (often via retraining), and 2) the convergence quality of the model robustness improvement. RobOT utilizes the proposed metric to automatically generate test cases valuable for improving model robustness. The proposed metric is also a strong indicator on how well robustness improvement has converged through testing. Experiments on multiple benchmark datasets confirm the effectiveness and efficiency of RobOT in improving DL model robustness, with 67.02% increase on the adversarial robustness that is 50.65% higher than the state-of-the-art work DeepGini.

研究の動機と目的

• 従来のニューロンカバレッジ指標に依存する深層学習のテスト手法は、実際のモデル耐性とほとんど相関がないというギャップを解決すること。
• 耐性向上が測定可能かつ効果的であることを保証するため、テストケース生成とモデル再訓練を統合したテストフレームワークを開発すること。
• 各テストケースがモデル耐性向上にどれほど寄与するかを定量化する、軽量で耐性相関の高い指標（FOL）を提案すること。
• 提案された指標を収束指標として用いることで、耐性向上の収束を検出可能にすること。
• 安全が求められる応用分野における敵対的例に対するモデル耐性を強化するエンドツーエンドのソリューションを提供すること。

提案手法

• FOL（特徴量別外れ値尤度）を、テストケースがモデル耐性向上にどれほど寄与するかを定量化する新しい指標として導入する。
• FOLを用いて、モデルの脆弱性を露呈・改善しやすい入力を優先するファズィングベースのテストケース生成戦略を誘導する。
• 反復的再訓練をテストパイプラインに統合し、FOLが高いテストケースに基づく敵対的例を用いてモデルを再訓練する。
• FOLを収束指標として活用し、耐性向上の飽和状態を検出することで、無駄な再訓練サイクルを削減する。
• FOLスコアに基づいてテストケース生成とモデル再訓練を反復的に最適化するフィードバックループを設計し、耐性向上を最大化する。

実験結果

リサーチクエスチョン

• RQ1 FOL指標は、従来のニューロンカバレッジ指標と比較して、実際のモデル耐性向上とどの程度相関しているか。
• RQ2 FOL誘導型のテストケース生成は、カバレッジベースの手法と比較して、より効果的な敵対的例を生成できるか。
• RQ3 RobOTの耐性向上は、DeepGini や ADAPT のような最先端手法と比較して、敵対的耐性向上の観点でどの程度優れているか。
• RQ4 FOL指標は耐性向上の収束を効果的に示せるか。これにより、余分なテストや再訓練を削減できるか。

主な発見

• RobOTは、ベンチマークデータセット全体で敵対的耐性を67.02%向上させ、既存手法を顕著に上回った。
• RobOTの向上効果は、最先端手法であるDeepGiniよりも50.65%も高く、優れた有効性を示した。
• FOL誘導型のテストケース生成は、ADAPTよりもより価値のある敵対的例を発見し、平均で39.67%の耐性向上を達成した。これに対してADAPTは24.79%の向上にとどまった。
• FOL指標は実際の耐性向上と強く相関しており、テスト中の収束検出を信頼性高く可能にした。
• 実験により、FOLスコアが高いテストケースは再訓練後に一貫してより高い耐性向上をもたらすことが確認され、指標の予測能力が裏付けられた。