[논문 리뷰] Constrained Feedforward Neural Network Training via Reachability Analysis

Long Kiu Chung, Adam Dai외 3명|arXiv (Cornell University)|2021. 07. 16.

Adversarial Robustness in Machine Learning참고 문헌 26인용 수 5

한 줄 요약

이 논문은 훈련 중에 안전성 제약 조건을 강제하면서 피드포워드 ReLU 신경망을 훈련시키기 위한 미분 가능하고 도달 가능 기반의 방법을 제안한다. 입력 및 출력 집합을 제약 조건이 있는 조노톱으로 표현함으로써, 도달 가능한 집합을 계산하고, 이를 통해 안전하지 않은 출력 영역과의 교차 여부를 미분 가능한 충돌 검사 손실을 통해 강제로 방지함으로써, 수치 예제에서 보장된 제약 조건 충족과 함께 안전하지 않은 영역을 완전히 피하는 데 성공하였다.

ABSTRACT

Neural networks have recently become popular for a wide variety of uses, but have seen limited application in safety-critical domains such as robotics near and around humans. This is because it remains an open challenge to train a neural network to obey safety constraints. Most existing safety-related methods only seek to verify that already-trained networks obey constraints, requiring alternating training and verification. Instead, this work proposes a constrained method to simultaneously train and verify a feedforward neural network with rectified linear unit (ReLU) nonlinearities. Constraints are enforced by computing the network's output-space reachable set and ensuring that it does not intersect with unsafe sets; training is achieved by formulating a novel collision-check loss function between the reachable set and unsafe portions of the output space. The reachable and unsafe sets are represented by constrained zonotopes, a convex polytope representation that enables differentiable collision checking. The proposed method is demonstrated successfully on a network with one nonlinearity layer and approximately 50 parameters.

연구 동기 및 목표

• 훈련 후 검증이 아닌 훈련 중에 보장되어야 하는 출력 제약 조건을 갖는 안전성 중심 응용 분야를 위한 신경망 훈련의 과제를 해결하기 위해.
• 훈련과 검증 사이의 번갈아가는 순환을 제거하기 위해 제약 조건 강제 조건을 훈련 목표에 직접 통합하기 위해.
• 정확한 볼록 다면체의 표현과 도달 가능한 집합 및 안전하지 않은 출력 집합 간의 효율적 충돌 검사를 가능하게 하는, 정확한 표현과 함께 다양한 집합 기반 도달 가능성 프레임워크를 개발하기 위해.
• 조노톱 교차 검사에서 유도된 손실 함수를 통해 수렴 시 제약 조건 충족이 달성될 수 있음을 보여주기 위해.

제안 방법

• 이 방법은 선형 변환에 대해 닫혀 있고 볼록 다면체를 정확하게 표현할 수 있는 제약 조건이 있는 조노톱을 사용하여 입력 집합과 출력 도달 가능한 집합을 표현한다.
• 제약 조건이 있는 조노톱 산술을 사용하여 레이어 단위로 네트워크의 출력 공간 도달 가능한 집합을 계산함으로써, ReLU 비선형성 동안 집합 성질을 유지한다.
• 선형 계획법을 풀어 도달 가능한 집합과 안전하지 않은 출력 영역 간의 교차 여부를 탐지함으로써, 충돌 검사 손실을 미분 가능한 형태로 정의한다.
• 손실 함수를 훈련 목표에 통합함으로써, 역전파와 기울기 기반 최적화를 통해 예측 오차를 최소화하고 동시에 제약 조건 충족을 강제할 수 있다.
• 훈련 반복마다 두 번의 역전파 단계를 사용한다: 첫 번째는 데이터셋에 대한 목표 손실을 위한 것이고, 두 번째는 조노톱 교차를 기반으로 한 제약 손실을 위한 것이다.
• 미니멀리즘 합, 교차, 충돌 검사에 대한 분석적 연산을 활용하여 효율적이고 미분 가능한 도달 가능성 분석을 가능하게 한다.

실험 결과

연구 질문

• RQ1 최적화 중에 직접적으로 사용자가 지정한 안전성 제약 조건을 충족하도록 신경망을 훈련시킬 수 있는가? (후속 검증이 아닌).
• RQ2 집합 기반 도달 가능성 분석을 어떻게 미분 가능하게 만들 수 있으며, 이를 통해 안전성 제약 조건이 포함된 종단 간 훈련을 가능하게 할 수 있는가?
• RQ3 도달 가능한 집합 표현에 제약 조건이 있는 조노톱을 사용할 경우, 계산 효율성과 제약 조건 강제 충족 정확도에 어떤 영향을 미치는가?
• RQ4 제안된 방법은 반복적 검증 루프 없이도 수렴 시 제약 조건 충족을 보장할 수 있는가?

주요 결과

• 제안된 방법은 작은 피드포워드 ReLU 네트워크를 안전하지 않은 출력 영역을 완전히 피하면서 비선형 함수를 근사하도록 성공적으로 훈련시켰으며, 그 결과는 그림 4에 나타나 있다.
• 제약 조건이 있는 훈련은 최종 제약 손실이 0.0000으로 나타나 도달 가능한 집합과 안전하지 않은 집합 간의 교차가 없음을 의미하지만, 제약 조건이 없는 훈련은 손실이 0.0575로 제약 위반을 보였다.
• 목표 손실은 제약 조건이 없는 경우 0.0039에서 제약 조건이 있는 경우 0.0127로 증가하여 정확도와 안전성 강제 간의 상충 관계를 반영한다.
• 기존의 방법들과 달리, 제안된 방법은 반복적 검증 없이도 수렴 시 보장된 제약 조건 충족을 보였다.
• 성공에도 불구하고 제약 조건이 있는 훈련은 약 5시간이 소요되었으며, 이는 제약 조건이 없는 훈련(0.5초)보다 수개의 주기수 만큼 느린 것으로, 제약 조건이 있는 조노톱 표현의 지수적 증가로 인한 것이다.
• GPU 활용률은 낮게 유지되었으며(1–5%), 더 나은 병렬 처리 및 최적화 기법을 통해 성능 향상 잠재력이 크다.