[논문 리뷰] Provably Stable Interpretable Encodings of Context Free Grammars in RNNs with a Differentiable Stack.

John Stogin, Ankur Mali외 1명|arXiv (Cornell University)|2020. 06. 05.

Machine Learning and Algorithms참고 문헌 66인용 수 4

한 줄 요약

이 논문은 문맥 자유 문법(CFG) 규칙을 직접 인코딩하는 특수한 스택 아키텍처를 갖춘, 미분 가능하고 증명 가능하게 궤도 안정적인 RNN을 제안한다. 이는 문법 추론을 위한 스택 기반 자동기계(PDA) 행동을 학습하고 근사화할 수 있도록 하며, 장수열 처리에서의 안정성을 보장하고 학습된 가중치로부터 PDA 전이 및 스택 연산을 해석 가능한 방식으로 추출할 수 있도록 한다.

ABSTRACT

Given a collection of strings belonging to a context free grammar (CFG) and another collection of strings not belonging to the CFG, how might one infer the grammar? This is the problem of grammatical inference. Since CFGs are the languages recognized by pushdown automata (PDA), it suffices to determine the state transition rules and stack action rules of the corresponding PDA. An approach would be to train a recurrent neural network (RNN) to classify the sample data and attempt to extract these PDA rules. But neural networks are not a priori aware of the structure of a PDA and would likely require many samples to infer this structure. Furthermore, extracting the PDA rules from the RNN is nontrivial. We build a RNN specifically structured like a PDA, where weights correspond directly to the PDA rules. This requires a stack architecture that is somehow differentiable (to enable gradient-based learning) and stable (an unstable stack will show deteriorating performance with longer strings). We propose a stack architecture that is differentiable and that provably exhibits orbital stability. Using this stack, we construct a neural network that provably approximates a PDA for strings of arbitrary length. Moreover, our model and method of proof can easily be generalized to other state machines, such as a Turing Machine.

연구 동기 및 목표

• 양성 및 부정성 문자열 샘플로부터의 문법 추론 문제를 해결하기 위해, 배경이 되는 문맥 자유 문법(CFG)을 학습하는 것.
• 반복 신경망(RNN) 아키텍처를 설계하여, 스택 기반 자동기계(PDA)의 구조를 명시적으로 모델링함으로써 학습된 규칙의 해석 가능성 보장.
• 기울기 기반 학습에 적합한 미분 가능하고 증명 가능하게 궤도 안정적인 스택 메커니즘 개발.
• 학습된 네트워크 가중치로부터 해석 가능한 PDA 전이 및 스택 연산 규칙을 추출할 수 있도록 하는 것.

제안 방법

• 모델은 궤도 안정성을 통해 상태 안정성을 유지하는, 미분 가능한 연산을 갖춘 맞춤형 스택 아키텍처를 사용하며, 이는 시간이 지남에 따라 오차 성장이 유한하게 유지됨을 보장한다.
• RNN은 네트워크 가중치가 PDA 전이 및 스택 연산 규칙에 해당하는 방식으로 직접 PDA를 모방하도록 설계된다.
• 스택은 표준 RNN에서 흔히 볼 수 있는 이산적이고 비미분 가능한 연산을 피하기 위해 연속적이고 미분 가능한 업데이트 규칙을 사용한다.
• 리아푸노프 분석을 통해 궤도 안정성이 증명되며, 이는 입력이나 은닉 상태에 작은 편향이 있을 경우에도 발산적 행동이 발생하지 않음을 보장한다.
• 표준 역전파 알고리즘을 사용하여, 문자열이 목표 CFG에 속하는지 여부를 분류하도록 모델을 학습시킨다.
• 동일한 스택 및 안정성 원리를 확장함으로써, 이 아키텍처는 튜링 기계와 같은 다른 상태 기반 기계로 일반화될 수 있다.

실험 결과

연구 질문

• RQ1 미분 가능한 RNN에 안정적인 스택 아키텍처를 적용하여, 문법 추론을 위한 스택 기반 자동기계(PDA)의 전이 및 스택 연산을 학습하고 표현할 수 있는가?
• RQ2 신경망의 가중치가 직접적으로 해석 가능한 PDA 규칙에 대응하도록 설계된 네트워크는 어떻게 구성할 수 있는가?
• RQ3 장수열 처리 중, 특히 훈련 중에 관찰하지 못한 긴 문자열에 대해서도 스택 메커니즘이 안정성을 유지하기 위한 조건은 무엇인가?
• RQ4 모델의 내부 구조는 학습된 가중치로부터 해석 가능한 문법 규칙을 추출할 수 있도록 하는가?
• RQ5 이 프레임워크는 튜링 기계와 같은 다른 계산 모델로 얼마나 일반화될 수 있는가?

주요 결과

• 제안된 스택 아키텍처는 증명 가능하게 궤도 안정적이며, 이는 수열 길이가 증가하더라도 모델이 일관된 행동을 유지함을 보장한다.
• 미분 가능한 스택을 갖춘 RNN은 임의의 길이의 문자열에 대해 PDA를 근사화할 수 있으며, 표준 RNN의 일반화 한계를 초월한다.
• 모델의 가중치는 직접적으로 해석 가능한 PDA 전이 및 스택 연산 규칙을 인코딩하며, 학습된 네트워크로부터 규칙 추출이 가능하다.
• 이 방법은 양성 및 부정성 문자열 샘플로부터 효과적으로 문법 추론을 수행하며, 배경이 되는 CFG의 구조를 학습할 수 있다.
• 스택 및 안정성 메커니즘의 확장을 통해, 이 프레임워크는 튜링 기계와 같은 다른 상태 기반 기계로 일반화될 수 있다.