[논문 리뷰] Deep Reasoning Networks: Thinking Fast and Slow

Di Chen, Yiwei Bai외 4명|arXiv (Cornell University)|2019. 06. 03.

Machine Learning in Materials Science참고 문헌 42인용 수 11

한 줄 요약

딥 러닝과 논리적·제약 기반 추론을 종단 간, 비지도 학습 프레임워크로 통합하는 딥 리ason링 네트워크(DRNets)는 빠른 패턴 인식(System 1)과 느린, 구조화된 추론(System 2)을 결합한다. DRNets는 겹쳐진 수기 스도쿠를 분리하는 데 100% 정확도를 기록하며, 이전에 해결되지 않았던 물질 체계를 포함한 복잡한 결정 구조 상추 맵핑 작업에서 최신 기술을 압도한다.

ABSTRACT

We introduce Deep Reasoning Networks (DRNets), an end-to-end framework that combines deep learning with reasoning for solving complex tasks, typically in an unsupervised or weakly-supervised setting. DRNets exploit problem structure and prior knowledge by tightly combining logic and constraint reasoning with stochastic-gradient-based neural network optimization. We illustrate the power of DRNets on de-mixing overlapping hand-written Sudokus (Multi-MNIST-Sudoku) and on a substantially more complex task in scientific discovery that concerns inferring crystal structures of materials from X-ray diffraction data under thermodynamic rules (Crystal-Structure-Phase-Mapping). At a high level, DRNets encode a structured latent space of the input data, which is constrained to adhere to prior knowledge by a reasoning module. The structured latent encoding is used by a generative decoder to generate the targeted output. Finally, an overall objective combines responses from the generative decoder (thinking fast) and the reasoning module (thinking slow), which is optimized using constraint-aware stochastic gradient descent. We show how to encode different tasks as DRNets and demonstrate DRNets' effectiveness with detailed experiments: DRNets significantly outperform the state of the art and experts' capabilities on Crystal-Structure-Phase-Mapping, recovering more precise and physically meaningful crystal structures. On Multi-MNIST-Sudoku, DRNets perfectly recovered the mixed Sudokus' digits, with 100% digit accuracy, outperforming the supervised state-of-the-art MNIST de-mixing models. Finally, as a proof of concept, we also show how DRNets can solve standard combinatorial problems -- 9-by-9 Sudoku puzzles and Boolean satisfiability problems (SAT), outperforming other specialized deep learning models. DRNets are general and can be adapted and expanded to tackle other tasks.

연구 동기 및 목표

• 순수 딥 러닝의 추론 중심 과제에서의 한계를 해결하기 위해, 패턴 인식(System 1)과 논리적 추론(System 2)을 통합한 유일한 프레임워크를 제공한다.
• 논리적 및 물리적 제약을 강제하는 추론 모듈을 갖춘 신경망의 종단 간 학습을 가능하게 하여, 특히 저도 또는 무지도 학습 환경에서의 적용을 가능하게 한다.
• 전문 지식과 열역학 법칙이 필수적인 과학적 발견 문제—예를 들어 X선 회절 데이터로부터 결정 구조를 추론하는 것—을 해결한다.
• 시각 과제를 넘어서 표준 조합 문제인 9x9 스도쿠와 3-SAT를 지도 없이 인코딩하고 해결함으로써 일반화 능력을 입증한다.
• 신경망과 외부 추론 모듈 간의 조율 장벽을 극복하기 위해 추론을 미분 가능하게 하고, 제약 인식 기반 확률적 경사 하강법을 통해 공동 최적화한다.

제안 방법

• 스도쿠 규칙이나 열역학 원리와 같은 사전 지식과 제약 조건을 반영하는 구조적 잠재 공간에 입력 데이터를 인코딩한다.
• 배치 기반 제약 관련 변수(예: 스도쿠 행의 셀 또는 결정 상 Phase 규칙)를 처리하는 추론 모듈을 사용하여, 미분 가능한 완화를 통해 논리적 및 제약 기반 규칙의 만족을 강제한다.
• 제약된 잠재 표현에서 출력(예: 숫자 또는 결정 구조)을 재구성하는 생성 디코더를 통합하여 빠른 추론을 가능하게 한다.
• 생성 디코더의 출력(빠른 사고)과 추론 모듈의 제약 만족도(느린 사고)를 조합한 공동 목적 함수를 제약 인식 기반 확률적 경사 하강법으로 최적화한다.
• 현재 제약 만족도에 따라 제약 가중치를 동적으로 조정하여, 노이즈가 많거나 모호한 데이터 환경에서 수렴성과 강건성을 향상시킨다.
• 적절한 잠재 공간 인코딩, 추론 모듈, 제약 집합을 정의함으로써 다양한 과제에 프레임워크를 적응시켜 도메인 간 일반화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 빠르고 자동적인 패턴 인식과 느리고 명시적인 추론을 통합한 유일한 딥 러닝 프레임워크가 복잡하고 구조화된 과제를 효과적으로 해결할 수 있는가?
• RQ2 논리적 및 제약 기반 추론을 비지도 또는 약한 지도 학습 환경에서 신경망 최적화와 종단 간 통합할 수 있는가?
• RQ3 DRNets가 레이블이 전혀 없는 조건에서 3-SAT 및 스도쿠와 같은 조합 문제를 해결할 때, 지도 학습 기반 최신 모델을 얼마나 뛰어넘을 수 있는가?
• RQ4 DRNets는 기존 방법과 전문가 능력의 한계를 넘어 실제 과학적 발견 과제—예를 들어 Bi-Cu-V-O 시스템의 결정 구조 상추 맵핑—을 해결할 수 있는가?
• RQ5 XRD 데이터의 스틱 패턴과 같은 사전 지식의 통합이 재구성 정확도와 물리적 타당성 향상에 어떤 영향을 미치는가?

주요 결과

• DRNets는 겹쳐진 수기 스도쿠(Multi-MNIST-Sudoku) 분리 과제에서 100% 정확도를 기록하며, 지도 학습 최신 기술 모델을 능가했다.
• Bi-Cu-V-O 시스템에서 결정 구조 상추 맵핑 과제에서 DRNets는 IAFD 기준보다 뚜렷이 뛰어나 L1 오차(3.993 vs. 10.580)와 L2 오차(0.196 vs. 0.992)를 낮췄다.
• DRNets는 전문가가 물리적으로 의미 있고 정확하다고 확인한 바, Bi-Cu-V-O 시스템의 이전에 알려지지 않은 상추 맵핑을 성공적으로 복원했다.
• 3-SAT 문제의 가장 어려운 비율(m/n = 4.3)에서, DRNets는 2시간 이내에 100개 변수를 가진 인스턴스의 77.9%를 해결했으며, NeuroSAT 및 PDP와 같은 지도 학습 모델을 능가했다.
• 9x9 스도쿠 퍼즐에서 DRNets는 1시간 이내에 99.8%의 인스턴스를 해결했으며, 비지도 학습임에도 불구하고 지도 학습 기반 RRNet 모델(99.6%)을 능가했다.
• DRNets는 지도 없이도 표준 조합 문제를 해결함으로써 뛰어난 일반화 능력을 입증했으며, 노이즈가 많고 불확실한 데이터를 포함한 복잡한 실제 과학 문제에도 효과적으로 대응했다.