[논문 리뷰] Test Selection for Deep Learning Systems

W. F. Mader, Mike Papadakis외 3명|arXiv (Cornell University)|2019. 04. 30.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 8

한 줄 요약

이 논문은 딥러닝 시스템을 위한 불확실성 기반 테스트 선택 메트릭스를 제안하며, 모델의 신뢰도와 드롭아웃 분산을 활용하여 모델이 도전받는 데이터를 식별하고 정확도를 향상시킵니다. 이 방법은 랜덤 선택이나 최신 기술 대비 재학습 과정에서 최대 80% 높은 정확도 향상을 달성합니다.

ABSTRACT

Testing of deep learning models is challenging due to the excessive number and complexity of computations involved. As a result, test data selection is performed manually and in an ad hoc way. This raises the question of how we can automatically select candidate test data to test deep learning models. Recent research has focused on adapting test selection metrics from code-based software testing (such as coverage) to deep learning. However, deep learning models have different attributes from code such as spread of computations across the entire network reflecting training data properties, balance of neuron weights and redundancy (use of many more neurons than needed). Such differences make code-based metrics inappropriate to select data that can challenge the models (can trigger misclassification). We thus propose a set of test selection metrics based on the notion of model uncertainty (model confidence on specific inputs). Intuitively, the more uncertain we are about a candidate sample, the more likely it is that this sample triggers a misclassification. Similarly, the samples for which we are the most uncertain, are the most informative and should be used to improve the model by retraining. We evaluate these metrics on two widely-used image classification problems involving real and artificial (adversarial) data. We show that uncertainty-based metrics have a strong ability to select data that are misclassified and lead to major improvement in classification accuracy during retraining: up to 80% more gain than random selection and other state-of-the-art metrics on one dataset and up to 29% on the other.

연구 동기 및 목표

• 딥러닝 시스템에서 체계적이고 자동화된 테스트 데이터 선택의 부족을 해결하기 위해.
• 딥 뉴럴 네트워크의 모델 동작을 포괄하지 못하는 코드 기반 테스트 메트릭스(예: 커버리지)의 한계를 극복하기 위해.
• 결정 경계 근처의 모델 불확실성에 초점을 맞춰 가장 잘못 분류될 가능성이 높은 테스트 입력을 식별하기 위해.
• 재학습을 통해 정확도 향상에 있어 불확실성 기반 메트릭스가 랜덤 선택 및 기존 최신 기술 메트릭스를 초월할 수 있는지 평가하기 위해.
• 자기학습 딥러닝 시스템에서 테스트 효과성을 평가하기 위한 실용적이고 객관적인 프레임워크 제공하기 위해.

제안 방법

• 몬테카를로 드롭아웃을 통해 반복적으로 뉴런을 제거하고 예측 분산을 측정하여 모델 불확실성으로 추정된 테스트 선택 메트릭스 제안.
• 모델의 출력 확률(신뢰도)를 별도의 확실성 측정치로 사용하여 드롭아웃 분산과 조합함으로써 민감도 향상.
• 다양한 적합도 메트릭스 정의: 분산(Var), 쿨백-라이블러 발산(KL), 레이블 특정 활성화(LSA), 최소 활성화까지의 거리(DSA), 가중 분산(Var_w) 및 확률 기반 티브레이킹.
• 실제 및 악성 테스트 입력을 사용하여 CIFAR-10 및 MNIST 두 개의 이미지 분류 벤치마크에서 메트릭스 평가.
• 메트릭스와 잘못 분류의 상관관계 평가 및 선택된 데이터를 사용해 모델 재학습했을 때 정확도 향상 측정.
• 반복적인 재학습 적용: 각 반복에서 상위 5,000개 샘플을 학습 세트에 추가하고 에포크 단위로 검증 정확도 추적.

실험 결과

연구 질문

• RQ1 불확실성 기반 메트릭스는 딥러닝 모델이 잘못 분류하는 입력을 효과적으로 식별할 수 있는가?
• RQ2 랜덤 선택 및 최신 기술 메트릭스(예: 놀라움 적합도)와 비교해 불확실성 기반 메트릭스는 잘못 분류를 유도하는 데 얼마나 효과적인가?
• RQ3 불확실성 기반 메트릭스를 활용해 데이터 재학습을 이끌었을 때 모델 정확도 향상은 어느 정도 이루어지는가?
• RQ4 실제로 잘 분류된 입력과 비교해 악성 입력에서 메트릭스 성능은 어떠한가?
• RQ5 불확실성 메트릭스는 재학습 과정에서 모델 수렴을 가속화할 수 있는가?

주요 결과

• 특히 Var와 KL 메트릭스는 악성 CIFAR-10 데이터에서 잘못 분류와 강한 상관관계(켄달의 타우 = 0.8099)를 보였다.
• MNIST에서 확률 기반 티브레이킹과 결합한 메트릭스는 세 번의 재학습 반복 후 검증 정확도 2.7% 향상 기록하여 랜덤 선택 및 LSA/DSA를 능가했다.
• 제안된 메트릭스는 세 번의 반복 후 MNIST 데이터셋에서 랜덤 선택 및 최신 기술 메트릭스 대비 최대 80% 높은 정확도 향상을 이끌었다.
• CIFAR-10에서 메트릭스는 기준 방법 대비 29% 높은 정확도 향상을 달성했으며, Var와 P가 가장 우수한 성능 기록.
• 불확실성으로 선택된 데이터로 학습한 모델은 특히 중간 학습 반복 단계에서 더 빠른 수렴을 보였으며, 검증 정확도 곡선을 통해 확인되었다.
• 악성 데이터에서는 악성 편향에 의해 유도된 높은 본질적 불확실성으로 인해 메트릭스의 효과가 떨어져 분류 능력이 감소했다.