[논문 리뷰] Learning Differentiable Programs with Admissible Neural Heuristics

Ameesh Shah, Eric Zhan외 4명|arXiv (Cornell University)|2020. 07. 23.

Machine Learning and Algorithms참고 문헌 49인용 수 6

한 줄 요약

이 논문은 부분 프로그램의 미분 가능 신경망 리 릿스팅을 사용하여 조합적 프로그램 아키텍처 탐색을 가속화하는 Near라는 방법을 제안한다. 프로그램 요소의 누락된 부분을 예측하는 신경망을 훈련시켜 그 손실을 A* 및 반복적 깊이 탐색 분할 정복(Ids-bb) 탐색에서 약간의 허용 가능한 휴리스틱으로 사용함으로써, 이 방법은 순서 분류 작업에서 해석 가능하고 정확한 프로그램 기반 분류기들을 효율적으로 학습하며, 최신의 프로그램 학습 방법들을 능가한다.

ABSTRACT

We study the problem of learning differentiable functions expressed as programs in a domain-specific language. Such programmatic models can offer benefits such as composability and interpretability; however, learning them requires optimizing over a combinatorial space of program "architectures". We frame this optimization problem as a search in a weighted graph whose paths encode top-down derivations of program syntax. Our key innovation is to view various classes of neural networks as continuous relaxations over the space of programs, which can then be used to complete any partial program. This relaxed program is differentiable and can be trained end-to-end, and the resulting training loss is an approximately admissible heuristic that can guide the combinatorial search. We instantiate our approach on top of the A-star algorithm and an iteratively deepened branch-and-bound search, and use these algorithms to learn programmatic classifiers in three sequence classification tasks. Our experiments show that the algorithms outperform state-of-the-art methods for program learning, and that they discover programmatic classifiers that yield natural interpretations and achieve competitive accuracy.

연구 동기 및 목표

• 미분 가능한 프로그램 학습에서 프로그램 아키텍처의 조합적 공간을 효율적으로 탐색하는 과제를 해결하기 위해.
• 프로그램의 미분 가능성에 기반하여 연속적 리 릿스팅을 생성함으로써 조합적 탐색을 이끄는 방법을 개발하기 위해.
• 훈련된 신경망을 약간의 허용 가능한 휴리스틱으로 사용하여 고성능 프로그램 아키텍처로의 수렴을 가속화하는 탐색 프레임워크를 설계하기 위해.
• 시퀀스 분류 작업에서의 성능 평가를 통해 기존의 프로그램 학습 기법들에 비해 향상된 성능과 해석 가능성의 가능성을 입증하기 위해.

제안 방법

• 프로그램 탐색을 가중치가 부여된 그래프 탐색으로 모델링하며, 노드는 누락된 표현식을 포함한 부분 프로그램 아키텍처를 나타내고, 경로는 상향식 유도를 나타낸다.
• 각 부분 아키텍처에 대해 신경망을 연속적 리 릿스팅으로 사용하여 누락된 하위표현을 예측함으로써, 엔드 투 엔드로 미분 가능한 훈련을 가능하게 한다.
• 신경망 리 릿스팅의 훈련 손실이 A* 및 반복적 깊이 탐색 분할 정복(Ids-bb)과 같은 정보 기반 탐색 알고리즘을 이끄는 약간의 허용 가능한 휴리스틱으로 기능한다.
• 문법 기반 언어(DSL)를 정의하기 위해 문맥 자유 문법을 사용하며, 문법 규칙에 구조적 비용을 할당하여 더 단순하고 해석 가능한 프로그램을 선호한다.
• 탐색 알고리즘은 이 휴리스틱을 사용하여 그래프 내 경로의 우선순위를 정함으로써 조합적 프로그램 공간의 효율적 탐색을 가능하게 한다.
• 이 방법은 A* 및 Ids-bb 두 가지 탐색 전략에 적용되며, 신경망 휴리스틱을 통합하여 탐색 효율성과 해답 품질을 향상시킨다.

실험 결과

연구 질문

• RQ1 미분 가능한 신경망을 부분 프로그램의 최적 완성도를 근사하기 위한 연속적 리 릿스팅으로 사용할 수 있는가?
• RQ2 이러한 신경망 리 릿스팅의 훈련 손실이 프로그램 아키텍처에 대한 조합적 탐색을 이끄는 약간의 허용 가능한 휴리스틱으로 기능할 수 있는가?
• RQ3 A* 및 Ids-bb 탐색에서 이러한 신경망 휴리스틱을 사용할 경우, 기준 방법에 비해 프로그램 학습의 효율성과 정확도가 상당히 향상되는가?
• RQ4 학습된 프로그램은 경쟁력 있는 정확도를 달성하면서도 해석 가능하고 의미적으로 유의미한가?

주요 결과

• 제안된 Near 방법은 세 가지 시퀀스 분류 작업에서 최신의 프로그램 학습 방법들을 능가하며, 뛰어난 탐색 효율성과 해답 품질을 입증한다.
• 학습된 프로그램 기반 분류기는 엔드 투 엔드 신경망 모델에 가까운 정확도를 달성하면서도 해석 가능하고 모듈화되어 있다.
• 신경망 리 릿스팅 기반 휴리스틱은 탐색을 상당히 가속화하여 고성능 프로그램 아키텍처로의 수렴 속도를 높인다.
• 이 방법은 자연스럽고 인간이 읽을 수 있는 논리적 구조를 가진 프로그램적 모델을 발견한다. 예를 들어 행동 분류에 적합한 구조적이고 해석 가능한 논리이다.
• 미분 가능한 신경망 리 릿스팅을 휴리스틱으로 사용함으로써 기울기 기반 학습과 조합적 탐색의 효과적 통합이 가능해졌으며, 이는 프로그램 합성 분야에서의 새로운 접근법이다.