[논문 리뷰] Verification of deep probabilistic models

Krishnamurthy Dvijotham, Marta Garnelo외 2명|arXiv (Cornell University)|2018. 12. 06.

Adversarial Robustness in Machine Learning참고 문헌 8인용 수 13

한 줄 요약

이 논문은 신경 과정과 변분 오토에코더와 같은 딥 확률 모델을 위한 새로운 검증 프레임워크를 제안하며, 모든 조건부 입력에 대해 잠재 변수 샘플링 시 선형 제약 조건을 고려하여 높은 확률로 만족시키는 것을 보장한다. 볼록 쌍대성과 오차 함수를 통한 확률적 경계를 활용하여, 모델 출력이 단조성 및 볼록성과 같은 예상되는 성질을 만족할 확률에 대한 엄밀한 하한을 효율적으로 계산한다. 이는 기능적 회귀 작업에서 성질 검증에 유용하다.

ABSTRACT

Probabilistic models are a critical part of the modern deep learning toolbox - ranging from generative models (VAEs, GANs), sequence to sequence models used in machine translation and speech processing to models over functional spaces (conditional neural processes, neural processes). Given the size and complexity of these models, safely deploying them in applications requires the development of tools to analyze their behavior rigorously and provide some guarantees that these models are consistent with a list of desirable properties or specifications. For example, a machine translation model should produce semantically equivalent outputs for innocuous changes in the input to the model. A functional regression model that is learning a distribution over monotonic functions should predict a larger value at a larger input. Verification of these properties requires a new framework that goes beyond notions of verification studied in deterministic feedforward networks, since requiring worst-case guarantees in probabilistic models is likely to produce conservative or vacuous results. We propose a novel formulation of verification for deep probabilistic models that take in conditioning inputs and sample latent variables in the course of producing an output: We require that the output of the model satisfies a linear constraint with high probability over the sampling of latent variables and for every choice of conditioning input to the model. We show that rigorous lower bounds on the probability that the constraint is satisfied can be obtained efficiently. Experiments with neural processes show that several properties of interest while modeling functional spaces can be modeled within this framework (monotonicity, convexity) and verified efficiently using our algorithms

연구 동기 및 목표

• 잠재 변수 샘플링에 대해 출력이 고려된 성질을 높은 확률로 만족시키는 딥 확률 모델을 위한 공식 검증 프레임워크를 개발하는 것.
• 일반적으로 빈약하거나 지나치게 보수적인 결과를 낳는 확률 모델의 최악의 경우 검증의 한계를 해결하는 것.
• 신경 과정 및 조건부 VAE와 같은 모델에서 단조성, 볼록성, 의미적 불변성과 같은 성질을 효율적이고 확장 가능한 방식으로 검증할 수 있도록 하는 것.
• 잠재 변수의 확률적 특성에도 불구하고 선형 제약 조건을 만족할 확률에 대한 계산적으로 실현 가능한 하한을 제공하는 것.

제안 방법

• 모든 조건부 입력 x ∈ X에 대해, cᵀf(x,z) + d ≥ 0일 확률이 ε 이하임을 보장하는 것으로 검증 문제를 설정한다. 즉, P(cᵀf(x,z) + d ≥ 0) ≤ ε이다.
• 볼록 쌍대성을 활용하여 선형 형식 cᵀf(x,z) + d를 상향 제한하는 이중 함수 G(λ, z)를 유도함으로써 확률적 완화를 가능하게 한다.
• 약한 쌍대성 원리를 적용하여 위반 확률을 P(G(λ, z) ≥ 0) + P(z ∉ [α, β])로 제한하며, 여기서 [α, β]는 잠재 공간의 유계 영역이다.
• 잠재 변수 z가 정규 분포를 따른다는 점을 활용하여, 보완 오차 함수(erfc)를 사용해 P(G(λ, z) ≥ 0)를 닫힌 형태로 표현한다.
• 이중 변수 λ 및 범위 α, β에 대해 경사 하강법을 사용하여 경계를 최적화하며, β = α + η²로 매개변수화하여 비제약 최적화를 가능하게 한다.
• 비표준 정규 잠재 변수를 처리하기 위해 재구성 기법을 활용하여 이를 표준 정규 변수로 변환한다.

실험 결과

연구 질문

• RQ1 딥 확률 모델이 모든 조건부 입력에 대해 선형 제약 조건을 고려하여 높은 확률로 만족시키는지 검증할 수 있는가?
• RQ2 모델 출력이 주어진 사양(예: 단조성 또는 볼록성)을 만족할 확률에 대한 하한을 효율적으로 계산할 수 있는가?
• RQ3 제안된 프레임워크는 신경 과정과 같은 기능적 회귀 모델에 적용되어 예측 함수의 구조적 성질을 검증할 수 있는가?
• RQ4 잠재 변수가 정규 분포에서 샘플링되더라도, 이 방법이 실질적으로 빈약하지 않고 보수적이지 않은 경계를 제공하는가?

주요 결과

• 검증 프레임워크는 고차원 잠재 공간에서도 선형 제약 조건을 만족할 확률에 대한 비빈약하고 엄밀한 하한을 성공적으로 계산한다.
• 누적 분포 함수를 학습한 신경 과정에 대해, 예측 출력이 목표 입력 구간에서 [0,1] 범위 내에 있을 확률이 ≥ 0.99로 확인되었다.
• 예측값의 상한 및 하한이 입력 δ에 따라 단조적으로 증가하여, 전체 영역에서 기대되는 CDF 유사 행동이 확인되었다.
• 비볼록 문제임에도 불구하고 λ, α, β에 대한 경사 하강법을 통한 확률 경계 최적화가 실질적으로 효율적으로 수렴하였다.
• 이 방법은 신경 과정이 단조성 및 유계성과 같은 알려진 기능적 성질을 만족하는 출력을 생성할 수 있음을 검증함으로써 가능하게 하였다.