[논문 리뷰] Search Based Repair of Deep Neural Networks.

Jeongju Sohn, Sungmin Kang외 1명|arXiv (Cornell University)|2019. 12. 28.

Adversarial Robustness in Machine Learning참고 문헌 33인용 수 23

한 줄 요약

이 논문은 깊이 신경망(DNN)을 위한 검색 기반 수리 기법인 Arachne를 제안한다. 이 기법은 민감도 기반 결함 위치 특정과 입자 군집 최적화(PSO)를 사용하여 오류 분류를 수정하기 위해 오직 소수의 신경 가중치만 수정한다. 추가 학습 데이터 없이도 CIFAR-10 분류기에서 가장 흔한 오분류 유형을 27.5% 감소시켰으며, 재학습보다 더 정확한 패치를 생성한다.

ABSTRACT

Deep Neural Networks (DNNs) are being adopted in various domains, including safety critical ones. The wide-spread adoption also calls for ways to guide the testing of their accuracy and robustness, for which various test adequacy criteria and input generation methods have been recently introduced. In this paper, we explore the natural subsequent step: given an input that reveals unexpected behaviour in a trained DNN, we propose to repair the DNN using input-output pairs as a specification. This paper introduces Arachne, a novel program repair technique for DNNs. Arachne first performs sensitivity based fault localisation to limit the number of neural weights it has to modify. Subsequently, Arachne uses Particle Swarm Optimisation (PSO) to directly optimise the localised neural weights until the behaviour is corrected. An empirical study using three different benchmark datasets shows that Arachne can reduce the instances of the most frequent misclassification type committed by a pre-trained CIFAR-10 classifier by 27.5%, without any need for additional training data. Patches generated by Arachne tend to be more focused on the targeted misbehaviour than DNN retraining, which is more disruptive to non-targeted behaviour. The overall results suggest the feasibility of patching DNNs using Arachne until they can be retrained properly.

연구 동기 및 목표

• 오분류가 감지된 후 DNN를 체계적으로 수리할 수 있는 방법의 부족을 해결하기 위해.
• 전체 재학습을 피하기 위해 입력-출력 쌍을 사양으로 사용하여 DNN 동작을 수정하는 기법을 개발하기 위해.
• 비표적 동작에 대한 영향을 최소화하기 위해 가장 민감한 가중치에만 집중하여 수리하기 위해.
• 검색 기반 수리의 타당성과 효과성을 평가하여 DNN의 강건성과 정확도 향상에 기여하기 위해.

제안 방법

• Arachne는 오분류에 기여하는 가장 영향력 있는 가중치를 특정하기 위해 민감도 기반 결함 위치 특정에서 시작한다.
• 그 후, 국소화된 가중치만 직접 최적화하기 위해 입자 군집 최적화(PSO)를 적용하여 DNN의 동작을 수정한다.
• 수리 과정은 최적화가 정확한 출력으로 향하도록 이끌기 위해 입력-출력 쌍을 사양으로 사용한다.
• PSO는 예측값과 기대값 간의 손실을 최소화하기 위해 선택된 가중치를 반복적으로 조정한다.
• 모델 전체를 재학습하지 않아서 비표적 입력에 대한 원래 모델의 동작을 유지한다.
• 이 방법은 CIFAR-10을 포함한 세 가지 벤치마크 데이터셋에서 평가되어 수리 효과성과 정밀도를 검증한다.

실험 결과

연구 질문

• RQ1 입력-출력 쌍을 사양으로만 사용하는 검색 기반 접근이 DNN 수리에 효과적으로 작용할 수 있는가?
• RQ2 Arachne의 수리 품질은 전체 재학습 대비 표적 오분류를 줄이는 데 어떻게 비교되는가?
• RQ3 Arachne는 비표적 입력에 대한 부작용을 어느 정도 최소화하는가?
• RQ4 민감도 기반 결함 위치 특정이 수리에 필요한 검색 공간을 얼마나 줄이는가?

주요 결과

• Arachne는 사전 학습된 CIFAR-10 분류기에서 가장 흔한 오분류 유형을 27.5% 감소시켰다.
• Arachne가 생성한 패치는 전체 재학습보다 표적 오작동을 수정하는 데 더 집중되어 있었다.
• Arachne는 추가 학습 데이터가 전혀 필요 없이 수리 작업을 수행했다.
• Arachne는 비표적 입력에 대한 원래 모델의 동작을 재학습보다 더 효과적으로 유지했다.
• 민감도 기반 결함 위치 특정이 수정이 필요한 가중치 수를 성공적으로 줄여 효율성을 향상시켰다.