[논문 리뷰] RobOT: Robustness-Oriented Testing for Deep Learning Systems

Jingyi Wang, Jialuo Chen외 5명|arXiv (Cornell University)|2021. 02. 11.

Adversarial Robustness in Machine Learning참고 문헌 49인용 수 4

한 줄 요약

이 논문은 FOL (Feature-wise Outlier Likelihood)라는 새로운 메트릭을 사용하여 테스트 케이스 생성과 재학습을 이끄는, 강건성 중심의 테스팅 프레임워크인 RobOT을 제안한다. RobOT은 모델의 강건성을 가장 크게 향상시키는 테스트 케이스를 우선순위에 두어, 적대적 강건성을 67.02% 향상시켰으며, 이는 최신 기술인 DeepGini보다 50.65% 높은 성능이다.

ABSTRACT

Recently, there has been a significant growth of interest in applying software engineering techniques for the quality assurance of deep learning (DL) systems. One popular direction is deep learning testing, where adversarial examples (a.k.a.~bugs) of DL systems are found either by fuzzing or guided search with the help of certain testing metrics. However, recent studies have revealed that the commonly used neuron coverage metrics by existing DL testing approaches are not correlated to model robustness. It is also not an effective measurement on the confidence of the model robustness after testing. In this work, we address this gap by proposing a novel testing framework called Robustness-Oriented Testing (RobOT). A key part of RobOT is a quantitative measurement on 1) the value of each test case in improving model robustness (often via retraining), and 2) the convergence quality of the model robustness improvement. RobOT utilizes the proposed metric to automatically generate test cases valuable for improving model robustness. The proposed metric is also a strong indicator on how well robustness improvement has converged through testing. Experiments on multiple benchmark datasets confirm the effectiveness and efficiency of RobOT in improving DL model robustness, with 67.02% increase on the adversarial robustness that is 50.65% higher than the state-of-the-art work DeepGini.

연구 동기 및 목표

• 기존의 뉴런 커버리지 메트릭에 의존하는 딥러닝 테스팅 방법들은 실제 모델 강건성과 상관관계가 거의 없음을 해결한다.
• 강건성 향상이 측정 가능하고 효과적인지 보장하기 위해, 테스트 케이스 생성과 모델 재학습을 통합한 테스팅 프레임워크를 개발한다.
• 각 테스트 케이스가 모델 강건성 향상에 기여하는 정도를 정량화하는 경량이면서 강건성과 관련된 메트릭(FOL)을 제안한다.
• 제안된 메트릭을 수렴 지표로 사용하여 강건성 향상의 수렴 여부를 감지할 수 있도록 한다.
• 안전이 중요한 애플리케이션에서 적대적 예제에 대한 모델 강건성을 향상시키기 위한 종단 간 솔루션을 제공한다.

제안 방법

• 모델 강건성 향상에 기여하는 정도를 정량화하기 위해 FOL (Feature-wise Outlier Likelihood)라는 새로운 메트릭을 도입한다.
• FOL을 활용해, 모델의 취약점을 폭 드러내고 개선할 가능성이 가장 높은 입력을 우선순위에 두는 퍼지 기반의 테스트 케이스 생성 전략을 구현한다.
• 반복적인 재학습을 테스트 파이프라인에 통합하여, 고FOL 테스트 케이스 기반으로 생성된 적대적 예제를 사용해 모델을 재학습시킨다.
• FOL을 수렴 메트릭으로 활용해, 강건성 향상의 수렴이 이루어졌는지 판단함으로써 불필요한 재학습 루프를 줄인다.
• 테스트 케이스 생성과 모델 재학습이 FOL 점수를 기반으로 반복적으로 개선되도록 피드백 루프를 설계하여 강건성 향상의 최적화를 달성한다.

실험 결과

연구 질문

• RQ1 기존의 뉴런 커버리지 메트릭과 비교해 볼 때, 제안된 FOL 메트릭은 실제 모델 강건성 향상과 얼마나 높은 상관관계를 가지는가?
• RQ2 FOL 기반 테스트 케이스 생성 전략은 커버리지 기반 접근 방식보다 더 효과적인 적대적 예제를 생성할 수 있는가?
• RQ3 DeepGini와 ADAPT와 같은 최신 기술과 비교했을 때, RobOT의 강건성 향상 수준은 적대적 강건성 향상 측면에서 어떻게 다른가?
• RQ4 FOL 메트릭은 강건성 향상의 수렴 여부를 효과적으로 감지할 수 있는가? 이를 통해 불필요한 테스트와 재학습을 줄일 수 있는가?

주요 결과

• RobOT은 벤치마크 데이터셋 전반에서 적대적 강건성을 67.02% 향상시켰으며, 기존 방법들보다 뚜렷이 뛰어난 성능을 보였다.
• RobOT의 향상 수준은 최신 기술인 DeepGini보다 50.65% 더 높아, 훨씬 뛰어난 효과성을 입증했다.
• FOL 기반 테스트 케이스 생성은 ADAPT보다 더 유의미한 적대적 예제를 발견하여, 평균 강건성 향상률을 ADAPT의 24.79% 대비 39.67%로 높였다.
• FOL 메트릭은 실제 강건성 향상과 강하게 상관관계를 가지며, 테스트 중 수렴 여부를 신뢰성 있게 감지할 수 있게 했다.
• 실험을 통해 고FOL 점수를 가진 테스트 케이스는 재학습 시 일관되게 더 큰 강건성 향상률을 보였으며, 이는 메트릭의 예측 능력을 검증했다.