[논문 리뷰] Sound and Complete Neural Network Repair with Minimality and Locality Guarantees

Feisi Fu, Wenchao Li|arXiv (Cornell University)|2021. 10. 14.

Adversarial Robustness in Machine Learning참고 문헌 21인용 수 7

한 줄 요약

이 논문은 버그가 있는 입력의 선형 영역에 맞춰 특화된 패치 네트워크를 구축함으로써 기능 공간 내에서 최소화되고 국소화된 변화를 보장하는, ReLU 네트워크를 위한 신뢰성 있고 완전한 신경망 수리 방법인 REASSURE를 제안한다. 이 방법은 버그가 있는 입력에서 정확성을 보장하면서도, 다른 모든 입력에 대해서는 원래의 동작을 유지하며, 기존 방법들에 비해 국소성과 부작용 최소화 측면에서 뛰어나다.

ABSTRACT

We present a novel methodology for repairing neural networks that use ReLU activation functions. Unlike existing methods that rely on modifying the weights of a neural network which can induce a global change in the function space, our approach applies only a localized change in the function space while still guaranteeing the removal of the buggy behavior. By leveraging the piecewise linear nature of ReLU networks, our approach can efficiently construct a patch network tailored to the linear region where the buggy input resides, which when combined with the original network, provably corrects the behavior on the buggy input. Our method is both sound and complete -- the repaired network is guaranteed to fix the buggy input, and a patch is guaranteed to be found for any buggy input. Moreover, our approach preserves the continuous piecewise linear nature of ReLU networks, automatically generalizes the repair to all the points including other undetected buggy inputs inside the repair region, is minimal in terms of changes in the function space, and guarantees that outputs on inputs away from the repair region are unaltered. On several benchmarks, we show that our approach significantly outperforms existing methods in terms of locality and limiting negative side effects. Our code is available on GitHub: https://github.com/BU-DEPEND-Lab/REASSURE.

연구 동기 및 목표

• 기존 신경망 수리 방법에서 공식적인 보장을 부족하게 하는 문제를 해결하기 위해, 특히 버그가 없는 입력에서의 정확한 동작을 유지하는 데 중점을 둔다.
• 버그가 있는 입력이 포함된 선형 영역에만 기능 공간 내 변화를 국한시켜 최소화되고 국소화된 수정을 보장하는 수리 방법론을 개발하기 위해이다.
• 수리가 음성(정확히 버그가 있는 입력을 수정함)이면서 완전(모든 버그가 있는 입력에 대해 수리가 가능함)임을 보장하기 위해이다.
• 수리 영역 외부의 모든 입력에 대해 원래 네트워크의 성능을 유지하여 치명적인 기억 상실이나 의도하지 않은 부작용을 방지하기 위해이다.
• 재학습이나 원래 학습 데이터에 대한 접근 없이도 효율적이고 확장 가능한 수리를 가능하게 하기 위해이다.

제안 방법

• ReLU 네트워크의 연속적인 조각별 선형(Continuous Piecewise Linear, CPWL) 성질을 활용하여 각 버그가 있는 입력이 포함된 선형 영역을 식별한다.
• 버그가 있는 입력의 선형 영역을 위해 특화된 패치 네트워크를 구성하며, ReLU 네트워크의 활성화 패턴에서 유도된 선형 제약 조건을 사용한다.
• 패치 네트워크를 원본 네트워크와 가중치 합으로 조합하여, 버그가 있는 입력에서 수리된 출력이 증명 가능하게 정확함을 보장한다.
• 선형 프로그래밍을 사용하여 패치 네트워크를 합성함으로써 기능 공간 내 변화를 최소화하고, 수리 영역 외부의 입력에 대해서는 출력을 유지한다.
• 점별 수리와 영역 기반 수리를 모두 지원하며, 파rameter 오버헤드를 줄이기 위해 선택적 기능 공간 수리를 제공한다.
• 최대풀링 레이어를 ReLU 기반 선형 연산으로 표현함으로써 일반 CPWL 네트워크(예: CNN 포함)에도 적용 가능하다.

실험 결과

연구 질문

• RQ1 재학습 없이도 버그가 있는 입력을 수정할 때 음성과 완전성을 보장할 수 있는 신경망 수리 방법은 가능한가?
• RQ2 기능 공간 내에서 수리를 국소화하여 버그가 없는 입력에 대한 의도하지 않은 부작용을 최소화할 수 있는가?
• RQ3 원래 네트워크의 동작을 유지하면서도 기능 공간 내 변화가 최소화된 수리 과정은 어떻게 달성할 수 있는가?
• RQ4 동일한 선형 영역 내 다른 입력으로의 수리 일반화 정도는 어느 정도인가?
• RQ5 특히 고차원 입력 공간에서, 수리의 파라미터 오버헤드는 기존 아키텍처에 비해 어떻게 비교되는가?

주요 결과

• REASSURE는 음성과 완전성을 보장한다: 모든 버그가 있는 입력은 수리되며, 유효한 패치는 항상 구성 가능하다.
• 이 방법은 버그가 있는 입력의 선형 영역 내 기능 공간만 변경함으로써 국소성을 확보하여, 나머지 모든 입력은 그대로 유지된다.
• ImageNet 벤치마크에서 REASSURE는 검증 데이터에서 평균 $L_{∞}$ 노름 차이가 0.0015에 불과했고, 정확도 82.5%를 달성하여 재학습 및 피니터닝보다 정확도와 부작용 제어 측면에서 뛰어나다.
• 점별 수리의 경우, 기능 공간 수리를 사용할 때 평균적으로 500만 개의 새로운 파라미터만 추가되었으며, 이는 입력 공간 수리의 오버헤드의 0.1%에 불과하여 뚜렷한 효율성 향상을 보였다.
• HCAS 벤치마크에서 수리 영역당 평균 제약 조건 수는 3.28로 기존의 125의 3%로 감소하여 중복 제약 조건 제거를 통해 파라미터 오버헤드를 최소화했다.
• REASSURE는 PRDNN 및 피니터닝보다 비버그 입력에서 $L_{∞}$ 및 $L_{2}$ 노름 차이를 더 적게 줄여, 더 뛰어난 국소성과 강건성을 보였다.