[논문 리뷰] Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs

Matthew L. Daggitt, Wen Kokke외 4명|arXiv (Cornell University)|2024. 01. 12.

Ferroelectric and Negative Capacitance Devices인용 수 3

한 줄 요약

이 논문은 신경-기호 프로그램 검증에서 '임bedding 갭'을 해소하기 위해 설계된 종속형 타입을 가진 중간 언어 Vehicle을 소개한다. 이는 다양한 머신러닝 프레임워크, 자동 정리 증명기(ATP), 상호작용 정리 증명기(ITP) 간에 신경 모듈을 통합적으로 명세화할 수 있도록 한다. 본 논문은 ATP와 ITP를 통해 모듈화된 증명을 활용하여 확률적이고 부분 관측 가능한 환경에서 안전성이 중요한 자율주행차 제어기의 형식적 검증을 수행함으로써 그 유용성을 입증한다.

ABSTRACT

Neuro-symbolic programs, i.e. programs containing both machine learning components and traditional symbolic code, are becoming increasingly widespread. Finding a general methodology for verifying such programs is challenging due to both the number of different tools involved and the intricate interface between the "neural" and "symbolic" program components. In this paper we present a general decomposition of the neuro-symbolic verification problem into parts, and examine the problem of the embedding gap that occurs when one tries to combine proofs about the neural and symbolic components. To address this problem we then introduce Vehicle - standing as an abbreviation for a "verification condition language" - an intermediate programming language interface between machine learning frameworks, automated theorem provers, and dependently-typed formalisations of neuro-symbolic programs. Vehicle allows users to specify the properties of the neural components of neuro-symbolic programs once, and then safely compile the specification to each interface using a tailored typing and compilation procedure. We give a high-level overview of Vehicle’s overall design, its interfaces and compilation & type-checking procedures, and then demonstrate its utility by formally verifying the safety of a simple autonomous car controlled by a neural network, operating in a stochastic environment with imperfect information.

연구 동기 및 목표

• 신경-기호 시스템에서 신경 및 기호 컴포넌트의 증명을 통합하는 데 어려움을 초래하는 '임베딩 갭'을 특정하고 형식화하기.
• 명세, 학습, 신경 검증, 기호 통합이라는 분리되고 조합 가능한 단계로 신경-기호 검증을 일반화한 설계.
• 다양한 검증 백엔드 간에 일관되고 재사용 가능한 명세를 가능하게 하는 원칙적이고 타입 안정적인 중간 언어로서 Vehicle의 개발.
• ATP(신경 컴포넌트용)과 ITP(기호 컴포넌트용)를 동시에 사용하여 신경-기호 시스템의 종단 간 검증을 수행하고, 정합성에 대한 모듈화된 증명을 달성하기.

제안 방법

• 텐서, 신경망, 일급 정량자, 고계 함수를 네이티브로 지원하는 고수준의 종속형 타입 언어로서 Vehicle 설계.
• Vehicle 명세를 대상 백엔드로 컴iles하는 컴파일러 파이프라인 구현: 머신러닝 프레임워크(예: PyTorch), ATP(예: 신경망 검증용), ITP(예: 기호 추론용).
• 각 백엔드로의 컴파일 과정에서 타입 안정성을 보장하고 정확한 오류 메시지를 생성하기 위해 내부적으로 Vehicle의 종속형 타입 시스템 활용.
• 타입 시스템을 활용해 서로 다른 검증 계층 간의 의미 일관성을 강제함으로써 신경 및 기호 컴포넌트 간 오해의 가능성을 최소화.
• 맞춤형 타입 검증 및 컴파일 프로시저를 통해 기존 검증 도구와 통합함으로써 표현력 손실 없이 상호 운용성을 확보.
• 확률적이고 부분 관측 가능한 환경에서 안전성 및 생존성 성질을 갖춘 자율주행차 제어기의 형식적 검증 사례 연구를 수행.

실험 결과

연구 질문

• RQ1 신경-기호 프로그램의 검증은 어떻게 모듈화되고 조합 가능한 단계로 분해될 수 있으며, 이를 통해 신경 및 기호 추론 컴포넌트를 분리할 수 있는가?
• RQ2 신경-기호 검증에서 '임베딩 갭'은 무엇을 원인으로 하고 있으며, 왜 기존 도구들은 이를 메우지 못하는가?
• RQ3 단일 명세 언어가 신경망 학습, 자동 검증, 상호작용 증명 시스템 간 신뢰할 수 있는 인터페이스로 기능할 수 있는가?
• RQ4 신경 컴포넌트에 대한 형식적 증명은 어떻게 안전하고 타당하게 기호 컴포넌트에 대한 증명과 통합될 수 있는가?
• RQ5 ATP와 ITP를 동시에 사용하여 단일이고 통합된 증명 과정에서 신경-기호 시스템의 모듈화된 종단 간 검증을 달성하는 것은 가능한가?

주요 결과

• Vehicle는 ATP와 ITP를 포함한 다양한 백엔드로 동일하고 일관된 신경 컴포넌트 명세를 컴파일할 수 있도록 하여 임베딩 갭을 성공적으로 해소하였다.
• 저자들은 신경 및 기호 컴포넌트에 대해 자동 및 상호작용 정리 증명을 통합한 첫 번째 알려진 모듈화된 신경-기호 프로그램 검증 사례를 제시한다.
• 사례 연구는 확률적이고 부분 관측 가능한 환경에서 안전성이 중요한 자율주행차 제어기의 형식적 검증을 수행하여 도로 유지 및 충돌 회피를 보장한다.
• Vehicle의 타입 시스템은 컴파일 시 정확한 진단 정보를 제공하여 사용성 향상과 다양한 검증 대상으로의 명세 번역 오류 감소에 기여한다.
• Imandra, Rocq, KeYmaera X와 같은 다양한 ITP에 대한 확장 가능한 통합을 지원하여 향후 복잡한 CPS 검증 워크로드를 위한 지원을 가능하게 한다.
• 증명 증거 생성 및 실세계 배포 의미론을 반영하기 위한 수치 정량화 지원과 같은 향후 개선 사항을 고려한 확장 가능한 프레임워크를 제공한다.