[논문 리뷰] ART: Abstraction Refinement-Guided Training for Provably Correct Neural Networks

Xuankang Lin, He Zhu외 2명|arXiv (Cornell University)|2019. 07. 17.

Adversarial Robustness in Machine Learning참고 문헌 38인용 수 6

한 줄 요약

이 논문은 항공기 충돌 방지와 같은 안전 기반 응용 분야에서 증명 가능하게 정확한 모델을 생성하기 위해 추상화 정밀화를 신경망 최적화에 통합한 새로운 훈련 프레임워크 ART를 제안한다. 정확성 손실에 의해 유도되는 동적 입력 공간 추상화 정밀화를 통해 ART는 전역적 안전성 성질의 형식적 검증을 보장하면서도 높은 정확도를 유지한다. 충돌 탐지 데이터셋에서 96.83%의 정확도를 달성하고 500개의 성질 중 481개를 검증하며 정확도 저하를 최소화하였다.

ABSTRACT

Artificial Neural Networks (ANNs) have demonstrated remarkable utility in various challenging machine learning applications. While formally verified properties of their behaviors are highly desired, they have proven notoriously difficult to derive and enforce. Existing approaches typically formulate this problem as a post facto analysis process. In this paper, we present a novel learning framework that ensures such formal guarantees are enforced by construction. Our technique enables training provably correct networks with respect to a broad class of safety properties, a capability that goes well-beyond existing approaches, without compromising much accuracy. Our key insight is that we can integrate an optimization-based abstraction refinement loop into the learning process and operate over dynamically constructed partitions of the input space that considers accuracy and safety objectives synergistically. The refinement procedure iteratively splits the input space from which training data is drawn, guided by the efficacy with which such partitions enable safety verification. We have implemented our approach in a tool (ART) and applied it to enforce general safety properties on unmanned aviator collision avoidance system ACAS Xu dataset and the Collision Detection dataset. Importantly, we empirically demonstrate that realizing safety does not come at the price of much accuracy. Our methodology demonstrates that an abstraction refinement methodology provides a meaningful pathway for building both accurate and correct machine learning networks.

연구 동기 및 목표

• 항공기 충돌 방지와 같은 안전 기반 시스템에서 사용되는 신경망에 대한 형식적 정확성 보장을 보장하는 데 도전한다.
• 후행 검증이나 강건성 분석에 국한된 기존 방법의 한계를 극복하기 위해, 훈련 초기 단계부터 전역적 안전성 성질을 강제로 적용할 수 있도록 한다.
• 훈련 중 동적 추상화 정밀화를 통해 정확도와 정확성 간의 상호 보완적 균형을 이루는 방법을 개발한다.
• 런타임 실시간 보호나 훈련 후 검증에 의존하는 것보다, 사전에 정확성이 보장되는 모델을 생성하는 대안을 제공함으로써 비용이 많이 드는 후처리 작업에 대한 의존도를 낮춘다.

제안 방법

• ART는 추상화된 입력 도메인에서 지정된 안전성 성질 위반 정도를 측정하는 정확성 손실 함수를 통합한다.
• 정확한 초과 근사치를 생성하기 위해 추상 해석 기법을 사용하며, 이는 매개변수화된 추상 도메인을 활용하여 입력 공간과 네트워크 동작을 근사한다.
• 정확성 손실이 안전성 제약 조건을 검증하는 데 얼마나 효과적인지에 따라 입력 파artitions를 분할함으로써 반복적인 추상화 정밀화를 수행한다.
• 정확도와 정확성 손실에 대한 경사 하강법 최적화를 번갈아 수행하고, 입력 추상화를 정밀화함으로써 정밀도를 향상시킨다.
• 정확성 손실이 0에 도달하면 네트워크가 지정된 모든 안전성 성질을 공식적으로 만족한다고 보장할 수 있다.
• 이 방법은 ART라는 도구로 구현되었으며, ACAS Xu 및 충돌 탐지 데이터셋에서 평가되었다.

실험 결과

연구 질문

• RQ1 신경망을 후행 검증이 아닌, 초기 단계부터 전역적 안전성 성질을 만족하도록 훈련시킬 수 있는가?
• RQ2 추상화 정밀화를 훈련 루프에 통합하여 정확성과 정확성 모두를 향상시킬 수 있는가?
• RQ3 형식적 정확성 강제 조건이 실제 안전 기반 응용 분야의 모델 정확도에 어느 정도 영향을 미치는가?
• RQ4 추상화 정밀도와 정확성 손실 간의 상호 보완적 관계가 기존 방법보다 더 스케일러블하고 신뢰할 수 있는 검증을 가능하게 하는가?

주요 결과

• ART는 충돌 탐지 데이터셋에서 96.83%의 정확도를 달성하면서 500개의 안전성 성질 중 481개를 검증하였으며, 기준 오라클 네트워크보다 뚜렷이 뛰어난 성능을 보였다.
• 100 에포크 내에 정확성 손실을 거의 0으로 줄여, 대부분의 지정된 안전성 제약 조건을 만족하는 해에 수렴하는 것을 입증하였다.
• ACAS Xu 데이터셋에서 ART는 모델 정확도를 훼손하지 않은 채 일반적인 안전성 성질을 성공적으로 강제 적용하였다.
• 정확성 손실을 강제로 적용함에도 불구하고, 안전 오라클 기준 대비 정확도 저하가 극히 미미하여 단지 3.04%포인트에 그쳤다.
• ART는 훈련 중 추상화 정밀화를 통해 기존 검증 또는 훈련 방법보다 더 강력한 정확성 보장을 가능하게 함을 입증하였다.
• 이 프레임워크는 사전에 정확성이 보장되는 훈련이 실제 안전 기반 응용 분야에서 실현 가능하고 실용적임을 보여주었다.