[論文レビュー] Vehicle: Bridging the Embedding Gap in the Verification of Neuro-Symbolic Programs

Matthew L. Daggitt, Wen Kokke+4 more|arXiv (Cornell University)|Jan 12, 2024

Ferroelectric and Negative Capacitance Devices被引用数 3

ひとこと要約

この論文は、深層学習フレームワーク、自動定理証明（ATP）、対話型定理証明（ITP）の間で統一的な記述を可能にする、依存型を持つ中間言語Vehicleを紹介する。この言語により、神経的・記号的コンポーネントの統合的仕様が可能となり、神経的・記号的コンポーネントの両方を含む、確率的かつ部分的に観測可能な環境下での安全で重要な自律走行車両制御装置の形式的検証を、ATPとITPの両方を用いたモジュラー証明により実現する。

ABSTRACT

Neuro-symbolic programs, i.e. programs containing both machine learning components and traditional symbolic code, are becoming increasingly widespread. Finding a general methodology for verifying such programs is challenging due to both the number of different tools involved and the intricate interface between the "neural" and "symbolic" program components. In this paper we present a general decomposition of the neuro-symbolic verification problem into parts, and examine the problem of the embedding gap that occurs when one tries to combine proofs about the neural and symbolic components. To address this problem we then introduce Vehicle - standing as an abbreviation for a "verification condition language" - an intermediate programming language interface between machine learning frameworks, automated theorem provers, and dependently-typed formalisations of neuro-symbolic programs. Vehicle allows users to specify the properties of the neural components of neuro-symbolic programs once, and then safely compile the specification to each interface using a tailored typing and compilation procedure. We give a high-level overview of Vehicle’s overall design, its interfaces and compilation & type-checking procedures, and then demonstrate its utility by formally verifying the safety of a simple autonomous car controlled by a neural network, operating in a stochastic environment with imperfect information.

研究の動機と目的

• 神経的および記号的コンポーネントの証明統合の課題である「埋め込みギャップ」を特定・形式化すること。
• 神経記号検証を、明確に分離され、合成可能な段階（仕様定義、学習、神経ネットワークの検証、記号的統合）に一般化すること。
• 神経的・記号的検証バックエンドの間で一貫性があり再利用可能な仕様を可能にする、原理的かつ型安全な中間言語Vehicleを設計すること。
• ATP（神経コンポーネント用）とITP（記号コンポーネント用）を併用したモジュラーな正しさ証明を実現する、エンドツーエンドの神経記号システムの検証を示すこと。

提案手法

• テンソル、ニューラルネットワーク、第一級の全称記号、高階関数をネイティブにサポートする高水準な依存型言語としてVehicleを設計すること。
• Vehicle仕様を、機械学習フレームワーク（例：PyTorch）、ATP（例：神経ネットワーク検証用）、ITP（例：記号的推論用）といったターゲットバックエンドにコンパイルするパイプラインを実装すること。
• 各バックエンドへのコンパイル中に型安全性を保証し、正確なエラーメッセージを生成するために、Vehicleの依存型システムを内部で活用すること。
• 型システムを活用して、異なる検証レイヤー間での意味的整合性を強制し、神経的および記号的コンポーネント間の誤解のリスクを最小限に抑えること。
• 型チェックおよびコンパイル手順をカスタマイズすることで、既存の検証ツールと統合し、表現力の損失なしに相互運用性を実現すること。
• 形式的検証の事例研究として、確率的かつ部分的に観測可能な環境下での安全で重要な自律走行車両制御装置の検証を実施すること。

実験結果

リサーチクエスチョン

• RQ1 神経記号プログラムの検証を、神経的および記号的推論コンポーネントを分離可能なモジュラーかつ合成可能な段階にどのように分解できるか？
• RQ2 神経記号検証における「埋め込みギャップ」の原因は何か？ なぜ既存のツールはこれを埋め合わせることができないのか？
• RQ3 単一の仕様言語が、ニューラルネットワークの学習、自動検証、対話型証明システムとの間で信頼できるインターフェースとして機能できるか？
• RQ4 神経コンポーネントに関する形式的証明を、サイバーフィジカルシステムにおける記号的コンポーネントに関する証明と安全かつ整合的に統合する方法は何か？
• RQ5 ATPとITPを併用したモジュラーかつエンドツーエンドの神経記号システムの検証を、一貫した証明プロセス内で実現することは可能か？

主な発見

• Vehicleは、ATPやITPといった複数のバックエンドに同じ一貫した神経コンポーネントの仕様をコンパイル可能であるため、埋め込みギャップを成功裏に埋め合わせた。
• 著者らは、神経コンポーネントと記号コンポーネントの両方に対して自動および対話型定理証明を統合した、初めての知られているモジュラー検証を実現した。
• 事例研究により、確率的かつ部分的に観測可能な環境下での安全で重要な自律走行車両制御装置の形式的検証が実現され、走行継続性および衝突回避が保証された。
• Vehicleの型システムにより、コンパイル時の正確な診断が可能となり、異なる検証ターゲットへの仕様変換時の使いやすさが向上し、エラーが減少した。
• Imandra、Rocq、KeYmaera Xといった多様なITPへの拡張可能な統合をサポートしており、将来的な複雑な CPS 検証ワークロードへの対応が可能である。
• 証明証明書生成や数値の量子化サポートといった将来的な拡張にも対応可能であり、実世界のデプロイメントの意味論に対応できる。