[論文レビュー] Injecting Logical Constraints into Neural Networks via Straight-Through Estimators

Zhun Yang, Joohyung Lee+1 more|arXiv (Cornell University)|Jul 10, 2023

Neural Networks and Applications被引用数 4

ひとこと要約

本稿では、直線的推定子（STE）を用いて離散的な論理制約をニューラルネットワークに埋め込むCL-STEという手法を提案する。論理的制約を微分可能損失関数に変換し、バックプロパゲーションにおける勾配伝播を可能にするためにSTEを活用することで、スケーラブルでGPUアクセラレーションを活用した神経的記号的学習が実現され、最短経路予測や半教師あり分類といったタスクにおいて、精度を維持しながらも従来の記号的手法よりも高速に学習が可能である。

ABSTRACT

Injecting discrete logical constraints into neural network learning is one of the main challenges in neuro-symbolic AI. We find that a straight-through-estimator, a method introduced to train binary neural networks, could effectively be applied to incorporate logical constraints into neural network learning. More specifically, we design a systematic way to represent discrete logical constraints as a loss function; minimizing this loss using gradient descent via a straight-through-estimator updates the neural network's weights in the direction that the binarized outputs satisfy the logical constraints. The experimental results show that by leveraging GPUs and batch training, this method scales significantly better than existing neuro-symbolic methods that require heavy symbolic computation for computing gradients. Also, we demonstrate that our method applies to different types of neural networks, such as MLP, CNN, and GNN, making them learn with no or fewer labeled data by learning directly from known constraints.

研究の動機と目的

• 論理的演算の微分不能性のため、ニューラルネットワーク学習に離散的論理制約を統合することが難しいという課題に対処すること。
• 勾配計算に高価な記号的計算（例：重み付きモデルカウンティングやソルバ呼び出し）に依存する従来の神経的記号的手法に起因する計算上のボトル neck を克服すること。
• 標準的なディープラーニングパイプラインを用いて、明示的な論理的制約を伴うニューラルネットワークのエンドツーエンド学習を可能にするスケーラブルで微分可能なフレームワークを開発すること。
• ラベル付きデータが限られた状況でも、多様なアーキテクチャ（MLP、CNN、GNN）と学習パラダイム（教師あり、半教師あり）にわたってCL-STEの有効性を示すこと。

提案手法

• 論理的制約を連言標準形（CNF）として表現し、ネットワーク出力による論理節の違反度を測る微分可能損失関数 $ L_{cnf} $ に変換する。
• ネットワーク出力のバイナリ化処理に対して直線的推定子（STE）を適用することで、非微分可能なバイナリ化関数の勾配がバックプロパゲーション中に流れるようにする。
• バイナリ化関数 $ b(x) $ は実数値のログットを0または1のバイナリ値にマップする。STEは、$ b(x) $ のゼロ勾配を、バックプロパゲーション中に連続的リラクゼーションの勾配に置き換える。
• 総損失は、論理的制約損失 $ L_{cnf} $ と標準的な交差エントロピー損失 $ L_{cross} $ をハイパーパramータ $ \alpha $ でバランスさせる。
• バイナリ化プロセスの微分可能代理関数としてトレーニングゲート関数（TGF）を用い、論理的制約を満たす方向へネットワークを駆動する勾配更新を可能にする。
• 本手法は、MLP、CNN、GNNなど多様なニューラルアーキテクチャとGPU上のバッチ学習をサポートしており、記号的代替手法に比べて著しく学習効率が向上する。

実験結果

リサーチクエスチョン

• RQ1 命題論理で表現された論理的制約を、ニューラルネットワーク学習用の微分可能損失関数として効果的に表現できるか？
• RQ2 直線的推定子（STE）を用いて、離散的論理的制約下での勾配ベース最適化を効果的に実現できるか？
• RQ3 CL-STEは、GPUアクセラレーションと微分可能な学習により、従来の神経的記号的手法よりも著しく短時間で学習を実行しながら、同等またはそれ以上の性能を達成できるか？
• RQ4 CL-STEは、多様なニューラルネットワークアーキテクチャ（MLP、CNN、GNN）と学習設定（教師あり、半教師あり）に一般化可能か？

主な発見

• CL-STEは最短経路問題において、NeurASPが著しく長い学習時間を要するにもかかわらず、179秒でNeurASPと同等のテスト精度を達成した。
• MNISTおよびFashion-MNISTデータセットにおいて、CL-STEはXuら（2018）のセマンティック損失法と同等の分類精度を達成したが、学習時間は約10分で、元の手法の約12分に比べて短縮された。
• CPUで学習した場合、CL-STEはセマンティック損失法に比べて学習時間を約10倍短縮した。複雑な制約が存在しても依然として効率的であった。
• 最短経路問題において、CL-STEは83秒（ベースライン）で83%の精度に達し、179秒で85%の精度に到達した。これに対して、セマンティック損失法はCPU上で30.75%の精度に到達するまでに1032秒を要した。
• バッチ学習とGPUアクセラレーションを活用することで、算術回路の構築や記号的ソルバの呼び出しに起因する計算オーバーヘッドを回避し、スケーラビリティと効率性を実証した。