[논문 리뷰] Counterexample-Guided Learning of Monotonic Neural Networks

Aishwarya Sivaraman, Golnoosh Farnadi외 2명|arXiv (Cornell University)|2020. 06. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 11

한 줄 요약

이 논문은 가설 공간을 제한하지 않고 ReLU 신경망에서 단조성 조건을 강제하기 위한 반례 유도 접근법을 제안한다. 두 가지 기법을 도입한다: 추론 시점에서 검증 기반의 봉우리 구축을 통해 단조성을 보장하는 방법과, 반복적으로 반례 쌍을 추가하여 훈련 중에 단조성을 인덕티브 바이어스로 통합하는 방법으로, 실제 벤치마크에서 최신 기술 수준의 성능을 달성하면서도 단조성을 보장하고 일반화 능력을 향상시킨다.

ABSTRACT

The widespread adoption of deep learning is often attributed to its automatic feature construction with minimal inductive bias. However, in many real-world tasks, the learned function is intended to satisfy domain-specific constraints. We focus on monotonicity constraints, which are common and require that the function's output increases with increasing values of specific input features. We develop a counterexample-guided technique to provably enforce monotonicity constraints at prediction time. Additionally, we propose a technique to use monotonicity as an inductive bias for deep learning. It works by iteratively incorporating monotonicity counterexamples in the learning process. Contrary to prior work in monotonic learning, we target general ReLU neural networks and do not further restrict the hypothesis space. We have implemented these techniques in a tool called COMET. Experiments on real-world datasets demonstrate that our approach achieves state-of-the-art results compared to existing monotonic learners, and can improve the model quality compared to those that were trained without taking monotonicity constraints into account.

연구 동기 및 목표

• 표준 ReLU 신경망에서 모델 용량을 제한하지 않고 단조성 제약 조건을 강제하는 데 도전하는 것.
• 임의의 훈련된 네트워크에 대해 예측 시점에서 단조성을 보장하는 방법을 개발하는 것.
• 반복적인 반례 생성을 통해 훈련 중에 단조성을 인덕티브 바이어스로 통합하는 방법을 개발하는 것.
• 특히 고차원의 실제 데이터 세트에서 단조성을 보장하면서 모델 일반화 능력을 향상시키는 것.
• min-max 및 딥 레이티스 네트워크와 같은 기존 단조성 학습 방법을 초월하여 정확도와 단조성 강제 성능에서 모두 승리하는 것.

제안 방법

• 단조성 반례 쌍(단일 특성만 다를 뿐이면서 특성 값이 증가함에 따라 출력 값이 감소하는 입력 쌍)을 탐지하기 위해 SMT 기반 검증 프레임워크를 사용한다.
• 반례를 기반으로 훈련된 네트워크의 단조성 봉우리(Envelope)를 실시간으로 구축하여 모든 예측이 단조적이도록 보장한다.
• 단조성 위반의 경계를 식별하고 이를 훈련 데이터에 추가하여 모델을 반복적으로 개선하는 반례 유도 훈련을 적용한다.
• 기존 연구에서 얻은 자동 정리 증명 및 SMT 인코딩을 활용하여, 전체 검증을 위한 것이 아니라 반례 추출을 위해 재사용한다.
• 예측 시점 강제 조건과 훈련 시점 정규화를 통합한 유일한 도구인 Comet을 통합하여 회귀 및 이진 분류 모두를 지원한다.
• 국소적 이웃 기반 접근 방식을 넘어서 장거리 단조성 위반을 탐지할 수 있도록 전역적 검색 전략을 사용한다.

실험 결과

연구 질문

• RQ1 가설 공간을 제한하지 않고도 임의의 ReLU 신경망에서 단조성을 증명 가능하게 강제할 수 있는가?
• RQ2 반례 유도 훈련이 단조성을 보장하면서도 모델 일반화 능력을 향상시킬 수 있는가?
• RQ3 반례 유도 단조성 학습의 성능은 min-max 및 딥 레이티스 네트워크와 같은 기존 방법과 비교해 어떻게 되는가?
• RQ4 국소적 이웃 기반 접근 방식에 비해 전역적 반례 탐지 전략이 단조성 위반을 더 잘 탐지할 수 있는가?
• RQ5 고차원의 실제 학습 과제에서 단조성을 인덕티브 바이어스로 통합하는 것이 얼마나 효과적인 정규화 도구가 되는가?

주요 결과

• 반례 유도 추론 방법은 표준 데이터 세트에서 모델당 몇 초의 추가 계산 비용만으로도 추론 시점에 단조성을 보장한다.
• 반례 유도 훈련 방법은 단조성 제약 조건 없이 훈련된 모델에 비해 모델 품질을 향상시키며, 단조성이 효과적인 정규화 도구임을 입증한다.
• Comet은 네 가지 실제 벤치마크에서 min-max 및 딥 레이티스 네트워크를 모두 능가하여 정확도와 단조성 강제 성능에서 최신 기술 수준의 성능을 달성한다.
• 전역적 검색 전략 덕분에 국소적 이웃 기반 접근 방식이 놓칠 수 있는 장거리 단조성 위반도 성공적으로 탐지한다.
• 예측 시점 봉우리 구축과 훈련 시점 반례 주입의 조합이 더 나은 일반화 능력과 강력한 단조성 보장을 이룬다.
• 실험 결과 단조성 강제가 대출 승인 및 자율 제어와 같은 애플리케이션에서 모델 오류를 줄이고 신뢰성을 높인다.