[논문 리뷰] SATNet: Bridging deep learning and logical reasoning using a differentiable satisfiability solver

Po-Wei Wang, Priya L. Donti외 2명|arXiv (Cornell University)|2019. 05. 29.

graph theory and CDMA systems참고 문헌 29인용 수 43

한 줄 요약

SATNet은 신경망에 내장될 수 있는 차분 가능한 MAXSAT 해결기 레이어를 도입하여 논리 제약을 엔드-투-엔드로 학습하고 추론할 수 있게 하며, 패리티, 스도쿠, 시각적 스도쿠 태스크에서 입증됩니다.

ABSTRACT

Integrating logical reasoning within deep learning architectures has been a major goal of modern AI systems. In this paper, we propose a new direction toward this goal by introducing a differentiable (smoothed) maximum satisfiability (MAXSAT) solver that can be integrated into the loop of larger deep learning systems. Our (approximate) solver is based upon a fast coordinate descent approach to solving the semidefinite program (SDP) associated with the MAXSAT problem. We show how to analytically differentiate through the solution to this SDP and efficiently solve the associated backward pass. We demonstrate that by integrating this solver into end-to-end learning systems, we can learn the logical structure of challenging problems in a minimally supervised fashion. In particular, we show that we can learn the parity function using single-bit supervision (a traditionally hard task for deep networks) and learn how to play 9x9 Sudoku solely from examples. We also solve a "visual Sudok" problem that maps images of Sudoku puzzles to their associated logical solutions by combining our MAXSAT solver with a traditional convolutional architecture. Our approach thus shows promise in integrating logical structures within deep learning.

연구 동기 및 목표

• 논리적 추론을 딥러닝과 통합하여 이산적 제약을 다룰 필요성에 대해 동기를 부여한다.
• 저랭크 SDP 이완을 기반으로 한 차분 가능한 MAXSAT 해법기를 신경망 레이어로 내재화한다.
• 데이터로부터 하드-코딩 규칙 없이 논리 구조를 엔드-투-엔드로 학습 가능하게 한다.
• 최소한의 감독 하에 패리티 및 스도쿠를 시연하며 시각적 스도쿠 변형을 포함한다.

제안 방법

• MAXSAT를 단위 벡터에 매핑된 변수로 SDP 이완으로 형식화한다.
• 고정점으로 수렴하는 보장된 수렴을 가진 빠른 좌표 하강법으로 SDP를 해결한다.
• 신경망의 역전파를 가능하게 하기 위해 SDP 해를 통해 미분한다(해석적/역전파 단계).
• 연속 벡터로 완화된 입력을 갖고 출력은 확률적 반올림으로 변환하는 저랭크, GPU 가속 SATNet 레이어를 구현한다.
• SATNet을 더 큰 네트워크 내부의 차분 가능한 레이어로 삽입한다(예: 시각적 스도쿠를 위한 CNN + SATNet).
• 효율적인 순전파 및 역방향 패스(알고리즘 1, 2, 3)와 속도를 위한 GPU 구현을 제공한다.

실험 결과

연구 질문

• RQ1 신경망 내부에 레이어로 통합될 수 있는 차분 가능한 MAXSAT 이완이 가능할까?
• RQ2 엔드-투-엔드 학습이 하드코딩된 규칙 없이 이산적 논리 구조를 발견하고 활용할 수 있는 정도는 얼마나 될까?
• RQ3 SATNet가 최소 감독(예: 패리티에 대한 단일 비트 감독) 및 스도쿠와 같은 복잡한 퍼즐에서 논리 제약을 얼마나 잘 학습할 수 있을까?
• RQ4 시각적 스도쿠와 같은 이미지에서 논리 해결기로의 파이프라인을 엔드-투-엔드로 학습시킬 수 있을까?

주요 결과

• SDP 기반 MAXSAT 해석기를 순방향 및 역방향 패스에서 차분하게 미분하는 데 성공했다.
• 단일 비트 감독으로 패리티를 학습하고 9x9 스도쿠를 높은 정확도로 해결했다(Original: 99.8% train, 98.3% test).
• 순열화된 스도쿠 실험은 SATNet가 국소성 가정 없이 제약을 학습할 수 있음을 보여주었다(Test: 93.6% train, 63.2% test).
• 시각적 스도쿠 실험은 숫자 인식 CNN과 SATNet를 결합하여 엔드-투-엔드 학습을 시연했고, 엔드-투-엔드 성능이 충분히 가능했다.
• GPU 가속 저랭크 SDP 레이어는 딥 아키텍처에 확장 가능하도록 속도를 크게 향상시키며( CPU 대비 18–30x 가속 ).
• SATNet은 하드 코딩된 제약 조건 없이 표준 스도쿠 벤치마크에서 강한 보드 단위 정확도(98.3%)를 달성했다.