[논문 리뷰] Local Repair of Neural Networks Using Optimization

Keyvan Majd, Siyu Zhou외 3명|arXiv (Cornell University)|2021. 09. 28.

Adversarial Robustness in Machine Learning참고 문헌 32인용 수 7

한 줄 요약

이 논문은 혼합정수이차계획법(MIQP)을 사용하여 단일 레이어의 가중치를 조정함으로써 사전 훈련된 순환신경망을 최적화 기반으로 수리하는 프레임워크를 제안한다. 이는 원래 성능을 유지하면서 안전성 제약 조건을 충족시키는 데 성공한다. 이 방법은 정확도 손실을 최소화하면서도 안전성, 분류, 제어 작업에 대한 네트워크 수리를 성공적으로 수행한다.

ABSTRACT

In this paper, we propose a framework to repair a pre-trained feed-forward neural network (NN) to satisfy a set of properties. We formulate the properties as a set of predicates that impose constraints on the output of NN over the target input domain. We define the NN repair problem as a Mixed Integer Quadratic Program (MIQP) to adjust the weights of a single layer subject to the given predicates while minimizing the original loss function over the original training domain. We demonstrate the application of our framework in bounding an affine transformation, correcting an erroneous NN in classification, and bounding the inputs of a NN controller.

연구 동기 및 목표

• 배포 후 안전성 또는 성능 성질을 충족하지 못하는 신경망을 수리하는 도전 과제를 해결하기 위해.
• 모델의 원래 훈련 데이터에서 높은 정확도를 유지하면서 네트워크의 단일 레이어만 수정하기 위해.
• 기존 방법이 특정 아키텍처에 국한되어 있는 것과 달리, 퍼셉트론 기반의 피드포워드 네트워크에 일반적으로 적용 가능한 아키텍처에 종속되지 않는 수리 방법을 제공하기 위해.
• 사용자가 정의한 출력 조건을 특정 입력 영역에서 충족시키기 위해 최소한의, 집중적인 가중치 조정을 가능하게 하기 위해.
• 로봇 공학 분야의 응용, 즉 안전한 제어, 분류 오류 수정, 운동학 모델링을 지원하기 위해.

제안 방법

• 신경망 수리 문제를 혼합정수이차계획법(MIQP)으로 공식화하여 단일 레이어의 가중치 변화를 최적화한다.
• 주어진 입력 영역에서 네트워크 출력에 대한 조건문으로 안전성 및 성능 제약 조건을 정의한다.
• 이진 변수를 사용하여 뉴런 활성화 상태를 모델링함으로써, MIQP 공식화에서 ReLU 비선형성을 정확하게 모델링한다.
• 모든 제약 조건을 충족시키면서도 원래 훈련 손실을 원래 데이터셋에서 최소화함으로써 원래 모델에서의 최소한의 편차를 확보한다.
• MIQP 솔버를 적용하여 지정된 입력 영역에서 네트워크 수리를 위한 최적의 가중치 업데이트를 계산한다.
• 세 가지 로봇 공학 작업에 대해 방법을 시현한다: 애파인 변환의 경계 설정, 분류 오류 수정, CBF 및 CLF 제약 조건을 통한 안전한 로봇 제어 보장.

실험 결과

연구 질문

• RQ1 사전 훈련된 신경망을 재훈련 없이도 안전성 제약 조건을 충족하도록 수리할 수 있는가?
• RQ2 수리 과정에서 원래 훈련 데이터에서의 성능 저하를 어떻게 최소화할 수 있는가?
• RQ3 전역 정확도를 유지하면서도 단일 레이어의 가중치 조정을 통해 정밀하고 국소적인 수리를 달성할 수 있는가?
• RQ4 다른 네트워크 레이어(예: 마지막 레이어 대비 은닉 레이어)를 수리할 경우 타당성과 성능에 어떤 영향을 미치는가?
• RQ5 MIQP 기반 수리 프레임워크는 실제 로봇 제어 및 검증 작업에서 얼마나 효과적인가?

주요 결과

• 제안된 MIQP 기반 수리 프레임워크는 다양한 로봇 공학 응용 분야에서 안전성 및 성능 조건을 최소한의 정확도 손실로 성공적으로 충족시켰다.
• 이동 로봇 제어 작업에서 마지막 레이어를 수리한 결과, δ = 2.45의 가중치 편차를 기록했으며, 궤적은 모두 위험 영역을 완전히 회피하였다.
• 수리된 제어기는 위험 영역 근처에서 속도를 동적으로 조정하면서 안전한 영역에서는 원래 정책으로 수렴하는 행동을 보이며 적응적인 행동을 나타냈다.
• 원래 훈련 데이터에서 높은 성능을 유지함을 입증하기 위해, QP 기반의 암시 학습 설정에서 유지된 궤적 품질이 확인되었다.
• 어떤 경우에서는 마지막 레이어 수리에서 타당성 문제가 발생하여, 복잡한 시나리오에서는 은닉 레이어 수리가 더 견고할 수 있음을 시사한다.
• 이 프레임워크는 적대적 샘플 재훈련이나 전체 네트워크 재훈련 없이도 안전성과 정확성을 향상시키는 집중적이고 최소한의 수리를 가능하게 한다.