[論文レビュー] DeepGini: Prioritizing Massive Tests to Enhance the Robustness of Deep Neural Networks

Feng Yang, Qingkai Shi+4 more|arXiv (Cornell University)|Mar 2, 2019

Adversarial Robustness in Machine Learning参考文献 43被引用数 11

ひとこと要約

DeepGini は、出力集合の不純度を測定することで誤分類確率を推定する統計的視点を活用する、深層ニューラルネットワーク（DNNs）のための新しいテスト優先順位付け手法である。これにより、誤分類の可能性があるテストケースを効率的に特定できる。この手法は、有効性と効率性の両面でカバレッジベースの手法を上回り、少ないラベル付きテストで DNN のロバストネスを著しく向上できる。

ABSTRACT

Deep neural networks (DNN) have been deployed in many software systems to assist in various classification tasks. In company with the fantastic effectiveness in classification, DNNs could also exhibit incorrect behaviors and result in accidents and losses. Therefore, testing techniques that can detect incorrect DNN behaviors and improve DNN quality are extremely necessary and critical. However, the testing oracle, which defines the correct output for a given input, is often not available in the automated testing. To obtain the oracle information, the testing tasks of DNN-based systems usually require expensive human efforts to label the testing data, which significantly slows down the process of quality assurance. To mitigate this problem, we propose DeepGini, a test prioritization technique designed based on a statistical perspective of DNN. Such a statistical perspective allows us to reduce the problem of measuring misclassification probability to the problem of measuring set impurity, which allows us to quickly identify possibly-misclassified tests. To evaluate, we conduct an extensive empirical study on popular datasets and prevalent DNN models. The experimental results demonstrate that DeepGini outperforms existing coverage-based techniques in prioritizing tests regarding both effectiveness and efficiency. Meanwhile, we observe that the tests prioritized at the front by DeepGini are more effective in improving the DNN quality in comparison with the coverage-based techniques.

研究の動機と目的

• DNN のテストオラクルのラベリングにかかる人的コストの高さという課題に対処し、スケーラブルな品質保証を可能にする。
• カバレッジベースのテスト優先順位付けの限界、例えば故障検出能力の低さやスケーラビリティの問題を克服する。
• 制限されたラベリング予算の下で、故障検出を最大化する効果的なテスト優先順位付け手法を開発する。
• 内部ニューロンカバレッジに依存せずに、DNN の出力空間を分析することで、効率的かつ効果的なテスト優先順位付けを実現する。

提案手法

• 誤分類確率を集合の不純度としてモデル化する DNN の統計的視点を提案し、内部モデルの点検を必要とせずに効率的な推定を可能にする。
• Gini 不純度測度を用いて DNN 出力の不確実性を定量化し、Gini 値が高いほど誤分類の可能性が高くなることを示す。
• Gini スコアに基づいてテストケースを優先順位付けし、誤った動作を露呈する可能性が最も高いものを選択する。
• ニューロンカバレッジに依存しないように、出力分布に焦点を当てることで、カバレッジベース手法に内在するスケーラビリティと識別性の問題を回避する。
• ラベル付けの効率を最大化するように、Gini 基盤の優先順位付けをテスト選択パイプラインに統合する。
• 標準的な画像分類データセットと一般的な DNN アーキテクチャを用いた実験的評価により、手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 出力の不確実性を測る統計的指標は、従来のカバレッジベースのテスト優先順位付けを上回り、誤分類された DNN 入力を特定する能力に優れているか？
• RQ2 制限されたラベル付け予算の下で、DeepGini はカバレッジ合計法やカバレッジ追加法と比較して、故障検出にどの程度効果的か？
• RQ3 DeepGini は、数百万のパラメータを持つ大規模な DNN や高次元の入力空間にも効率的にスケーリング可能か？
• RQ4 Gini 基盤の優先順位付けは、カバレッジベース手法よりもラベル付けプロセスの初期段階で故障誘発テストケースを早期に特定できるか？

主な発見

• DeepGini は、特に制限されたラベル付け予算の下で、カバレッジ合計法やカバレッジ追加法を著しく上回り、誤分類されたテストケースを検出する能力に優れている。
• DeepGini によって優先順位付けされたテストは、ラベル付けプロセスの初期段階で高い故障検出率を達成しており、優れた有効性を示している。
• この手法は高い効率性を達成しており、O(mn²) の計算量を伴うカバレッジ追加法と比較して、計算オーバーヘッドが小さい。
• DeepGini は、ImageNet や CIFAR-10 を含む複数の DNN アーキテクチャとデータセットで安定した性能向上を示し、多様な環境に強く、ロバストである。
• ニューロンカバレッジがテストケースを区別できない場合でも、出力の不確実性に焦点を当てることで、コーナーケースやアドバーシャル入力を効果的に特定できる。
• 実験的結果から、DeepGini はカバレッジベース手法に比べて必要なラベル付け作業の僅か数パーセントで、同等またはより優れた DNN のロバストネス向上が達成可能であることが示された。