[論文レビュー] ART: Abstraction Refinement-Guided Training for Provably Correct Neural Networks

Xuankang Lin, He Zhu+2 more|arXiv (Cornell University)|Jul 17, 2019

Adversarial Robustness in Machine Learning参考文献 38被引用数 6

ひとこと要約

本論文は、安全で重要な応用分野向けに、形式的妥当性を保証するモデルを生成するために、抽象化の精密化をニューラルネットワーク最適化に統合する新規な訓練フレームワークARTを提案する。正しさ損失に従って動的に入力空間の抽象化を精緻化することで、ARTはグローバルな安全特性の形式的検証を保証しながら高い精度を維持し、衝突検出データセットにおいて96.83%の精度を達成し、500個の特性のうち481個を証明可能にした。精度の低下は最小限に抑えられた。

ABSTRACT

Artificial Neural Networks (ANNs) have demonstrated remarkable utility in various challenging machine learning applications. While formally verified properties of their behaviors are highly desired, they have proven notoriously difficult to derive and enforce. Existing approaches typically formulate this problem as a post facto analysis process. In this paper, we present a novel learning framework that ensures such formal guarantees are enforced by construction. Our technique enables training provably correct networks with respect to a broad class of safety properties, a capability that goes well-beyond existing approaches, without compromising much accuracy. Our key insight is that we can integrate an optimization-based abstraction refinement loop into the learning process and operate over dynamically constructed partitions of the input space that considers accuracy and safety objectives synergistically. The refinement procedure iteratively splits the input space from which training data is drawn, guided by the efficacy with which such partitions enable safety verification. We have implemented our approach in a tool (ART) and applied it to enforce general safety properties on unmanned aviator collision avoidance system ACAS Xu dataset and the Collision Detection dataset. Importantly, we empirically demonstrate that realizing safety does not come at the price of much accuracy. Our methodology demonstrates that an abstraction refinement methodology provides a meaningful pathway for building both accurate and correct machine learning networks.

研究の動機と目的

• 航空機の衝突回避など、安全で重要なシステムに使用されるニューラルネットワークにおける形式的妥当性保証の課題に対処すること。
• 後処理による検証やロバストネスのみの分析に限界があるのを克服し、グローバルな安全特性を最初から訓練段階で強制できるようにすること。
• 訓練中に動的な抽象化の精密化を活用して、精度と正しさの両立を最適化する手法を開発すること。
• 実行時シールドや訓練後の検証に依存するのを減らすために、構築段階から正しくなる代替手法を提供すること。

提案手法

• 指定された安全特性の違反度を抽象化された入力ドメイン上で測定する正しさ損失関数を統合する。
• 抽象解釈を用いて、パラメータ化された抽象ドメインを用いて入力空間およびネットワーク動作の整合的な上界近似を生成する。
• 正しさ損失の検証効果に基づいて、入力パーティションを分割することで、反復的な抽象化の精密化を実行する。
• 精度と正しさ損失の勾配降下と、入力抽象化の精緻化を交互に実行することで、精度を向上させる。
• 正しさ損失がゼロに達すれば、ネットワークが指定されたすべての安全特性を形式的に満たすことが保証される。
• この手法は、ARTと呼ばれるツールとして実装され、ACAS Xuおよび衝突検出データセットで評価された。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークを、後処理による検証ではなく、最初からグローバルな安全特性を満たすように訓練できるか？
• RQ2 抽象化の精密化を訓練ループに統合することで、正しさと精度の両方を向上させられるか？
• RQ3 形式的妥当性を強制することで、実世界の安全で重要な応用分野におけるモデル精度にどの程度影響を与えるか？
• RQ4 抽象化の精度と正しさ損失の相乗効果により、従来の手法よりもスケーラブルで信頼性の高い検証が可能になるか？

主な発見

• ARTは、衝突検出データセットにおいて96.83%の精度を達成し、500個の安全特性のうち481個を証明可能にした。これは、ベースラインのオラクルネットワークを著しく上回った。
• 100エポックで正しさ損失をほぼゼロにまで低下させ、多数の指定された安全制約を満たす解に収束することを示した。
• ACAS Xuデータセットでは、モデル精度を損なわず、一般化された安全特性を効果的に強制できた。
• 安全なオラクルベースラインからの精度低下はわずか3.04パーセンテージポイントであり、はるかに多くの正しさの特性を強制しているにもかかわらず、最小限に抑えられた。
• ARTは、訓練中の抽象化の精密化が、従来の検証や訓練手法よりも強力な正しさ保証を可能にすることを示した。
• このフレームワークは、実世界の安全で重要な応用分野において、構築段階から正しくなる訓練が実現可能で実用的であることを示している。