[論文レビュー] A Certified Proof Checker for Deep Neural Network Verification in Imandra

Remi Desmartin, Omri Isac+4 more|arXiv (Cornell University)|May 17, 2024

Adversarial Robustness in Machine Learning被引用数 1

ひとこと要約

本論文は、Imandraインタラクティブ定理プローバー内でのMarabouのDNN検証証明書の形式的検証および証明済みの証明チェックャを提示する。著者らは、Imandraの関数型言語でチェックャを実装し、その形式的検証機能と任意精度算術を活用することで、浮動小数点誤差のない完全に検証済みで信頼できる証明チェックャを実現した。これにより、安全で重要なシステムにおけるDNN検証のためのより強い保証が可能になった。

ABSTRACT

Recent advances in the verification of deep neural networks (DNNs) have opened the way for a broader usage of DNN verification technology in many application areas, including safety-critical ones. However, DNN verifiers are themselves complex programs that have been shown to be susceptible to errors and numerical imprecision; this, in turn, has raised the question of trust in DNN verifiers. One prominent attempt to address this issue is enhancing DNN verifiers with the capability of producing certificates of their results that are subject to independent algorithmic checking. While formulations of Marabou certificate checking already exist on top of the state-of-the-art DNN verifier Marabou, they are implemented in C++, and that code itself raises the question of trust (e.g., in the precision of floating point calculations or guarantees for implementation soundness). Here, we present an alternative implementation of the Marabou certificate checking in Imandra - an industrial functional programming language and an interactive theorem prover (ITP) - that allows us to obtain full proof of certificate correctness. The significance of the result is two-fold. Firstly, it gives stronger independent guarantees for Marabou proofs. Secondly, it opens the way for the wider adoption of DNN verifiers in interactive theorem proving in the same way as many ITPs already incorporate SMT solvers.

研究の動機と目的

• DNN検証器の信頼性という重要な課題に取り組む。DNN検証器は実装上のバグや数値的不正確さに起因して信頼できないことがある。
• MarabouのUNSAT証明書の形式的検証済みで独立して検証可能な証明チェックャを提供し、検証結果の正しさを保証する。
• 未検証のC++ベースの証明チェックャに依存しないように、検証済みの関数型プログラミング言語で証明済みのチェックャを実装する。
• 強力な保証を伴うインタラクティブ定理プロービング環境へのDNN検証の統合を可能にする。
• 証明同伴型の神経記号的システムの基盤を築くために、DNN検証ワークフローの妥当性を証明する。

提案手法

• インタラクティブ定理プローバーであるImandraの関数型プログラミング言語に証明チェックャを実装し、その正しさを形式的に検証する。
• Imandraの型システム内にMarabouの証明木とファルカス・ベクトルをデータ構造としてエンコードし、DNN検証証明を表現する。
• 証明チェックにおける浮動小数点誤差を回避するために、Imandraの任意精度実数算術を活用する。
• 多項式形式でのファルカスの補題を形式化し、Imandraにおける効率的な自動化と検証を可能にする。
• 証明木を走査し、形式化されたファルカスの補題を用いてファルカス・ベクトルを検証することで、Marabou証明書から完全な正しさの証明を再構築する。
• 性能と検証の厳密さのバランスをとるために、Imandraの証明自動化機能と戦略ベースの対話機能を活用する。

実験結果

リサーチクエスチョン

• RQ1 インタラクティブ定理プローバー内にDNN検証器の証明書チェックャを形式的に検証できるか。これにより、実装への信頼を排除できるか。
• RQ2 信頼できる形式的検証済みチェックャを用いて、MarabouのUNSAT証明書の妥当性をどのように証明できるか。
• RQ3 C++ベースのチェックャとは対照的に、検証済みの高水準言語（例：Imandra）を用いることで、正しさと精度の面でどのような利点が得られるか。
• RQ4 DNN検証器をITP（インタラクティブ定理プロービング）環境に統合することで、AI安全性検証の信頼性がどの程度向上するか。
• RQ5 多項式形式でのファルカスの補題の形式化は、Imandraにおける効率的かつ自動化された証明再構築を可能にするか。

主な発見

• 著者らは、Imandra内にMarabouのUNSAT証明書の形式的検証済み証明チェックャを成功裏に実装し、完全な証明同伴コードの保証を達成した。
• チェックャはImandraの関数型言語で実装されており、同じ言語で正しさが証明されており、外部コードへの信頼を排除した。
• 任意精度算術を用いることで、従来のDNN検証器とそのチェックャが直面する浮動小数点誤差を回避した。
• 多項式形式でのファルカスの補題の形式化により、Imandraにおける効率的な証明自動化と検証が可能になった。
• 本アプローチにより、DNN検証をインタラクティブ定理プロービングワークフローに統合できるようになり、証明同伴型の神経記号的システムへの道筋が開けた。
• 評価結果から、無限精度算術と検証指向のデータ構造の影響により、信頼性とスケーラビリティのトレードオフが主な要因であることが示唆された。