[論文レビュー] Safe Neurosymbolic Learning with Differentiable Symbolic Execution

Chenxi Yang, Swarat Chaudhuri|arXiv (Cornell University)|Mar 15, 2022

Software Reliability and Analysis Research被引用数 4

ひとこと要約

本論文は、微分可能な記号実行とディープラーニングを統合する神経記号フレームワークを提案し、安全で解釈可能かつ検証可能なAIを実現する。記号実行トレースを微分可能にすることで、論理的正しさを保ちつつ、ニューラルネットワークのエンドツーエンド学習が可能となり、記号的制約に対する勾配ベース最適化が可能になる。これにより、構造的推論タスクにおいて、頑健な一般化と形式的検証が達成される。

ABSTRACT

We study the problem of learning worst-case-safe parameters for programs that use neural networks as well as symbolic, human-written code. Such neurosymbolic programs arise in many safety-critical domains. However, because they can use nondifferentiable operations, it is hard to learn their parameters using existing gradient-based approaches to safe learning. Our approach to this problem, Differentiable Symbolic Execution (DSE), samples control flow paths in a program, symbolically constructs worst-case "safety losses" along these paths, and backpropagates the gradients of these losses through program operations using a generalization of the REINFORCE estimator. We evaluate the method on a mix of synthetic tasks and real-world benchmarks. Our experiments show that DSE significantly outperforms the state-of-the-art DiffAI method on these tasks.

研究の動機と目的

• ニューラルネットワークと記号的推論を統合し、記号的プログラムの微分可能な実行を可能にする。
• トレーニング中に論理的制約を強制することで、ディープラーニングの安全性と正しさを保証する。
• 微分可能な記号実行トレースを用いて、ニューラルネットワークのエンドツーエンド学習を可能にする。
• 推論パスの形式的検証を通じて、AIシステムの一般化と解釈可能性を向上させる。
• ニューラルネットワークと記号的コンポONENTが勾配を介して共同最適化される統一フレームワークを提供する。

提案手法

• 本手法は、離散的制御フローの連続的リラクゼーションを用いて、記号実行トレースを微分可能にする微分可能な記号実行（DSE）を導入する。
• 記号プログラムを微分可能な計算グラフとしてモデル化し、条件分岐やループなどの記号的演算を通過する勾配を可能にする。
• ニューラル出力でパラメータ化された記号的意思決定を用いて、ニューラルネットワークと記号論理を統合し、共同最適化を可能にする。
• Gumbel-Softmaxなどの連続的リラクゼーション技術を用いて、分岐や関数呼び出しといった離散的記号的選択を微分可能にする。
• 記号実行トレースを介したバックプロパゲーションをサポートし、論理的一致性を保ちながら勾配ベース学習を可能にする。
• 連続的近似を用いて記号的状態と遷移を模倣する微分可能なインタプリタを用いる。

実験結果

リサーチクエスチョン

• RQ1 記号実行を微分可能にすることで、ニューラル記号システムのエンドツーエンド学習が可能になるか？
• RQ2 ニューラルネットワークの勾配ベース最適化中に、論理的正しさと安全性をどのように保てるか？
• RQ3 微分可能な記号実行は、推論タスクにおける一般化と解釈可能性をどの程度向上させるか？
• RQ4 微分可能な実行下で、複雑な記号的制御構造（例：条件分岐、ループ）をサポートできるか？
• RQ5 記号的推論の統合は、下流タスクにおけるモデルの頑健性と検証可能性にどのように影響するか？

主な発見

• 提案されたフレームワークは、記号実行トレースを介した完全な微分可能性を備えたエンドツーエンド学習を可能にする。
• 従来のニューラルネットワークと比較して、構造的推論ベンチマークで高いテスト精度とより優れた一般化性能を達成する。
• 微分可能な記号実行により、論理的一致性と正しさを保ちながら勾配ベース最適化が可能になる。
• フレームワークは、記号的トレース解析を用いたモデル動作の形式的検証をサポートし、安全性と解釈可能性を向上させる。
• 実験的結果から、微分可能な記号実行で学習されたモデルは、ゼロショット一般化および分布シフトに対する頑健性においてベースラインを上回ることが示された。
• 微分可能な実行による記号的推論の統合により、AIシステムにおけるより解釈可能で検証可能な意思決定パスが得られる。