[논문 리뷰] Probabilistic Neural Programs

Kenton Murray, Jayant Krishnamurthy|arXiv (Cornell University)|2016. 12. 02.

Machine Learning and Algorithms참고 문헌 7인용 수 3

한 줄 요약

이 논문은 확률적 신경 프로그램(PNPs)을 소개한다. PNPs는 신경망 아키텍처의 계산 그래프와 결정 유형을 모델링하기 위해 가중치가 부여된 비결정적 선택 연산자를 결합하여 딥 뉴럴 네트워크와 확률적 프로그래밍을 통합하는 프레임워크이다. 이 방법은 확률적 경사 하강법을 통해 엔드 투 엔드 학습이 가능하며, 결정 스코어링을 위한 표현력 있는 잠재 표현을 학습함으로써 다이어그램 질문-답변 작업에서 14.9%의 실행 정확도를 달성한다. 이는 기준 모델의 거의 두 배에 해당한다.

ABSTRACT

We present probabilistic neural programs, a framework for program induction that permits flexible specification of both a computational model and inference algorithm while simultaneously enabling the use of deep neural networks. Probabilistic neural programs combine a computation graph for specifying a neural network with an operator for weighted nondeterministic choice. Thus, a program describes both a collection of decisions as well as the neural network architecture used to make each one. We evaluate our approach on a challenging diagram question answering task where probabilistic neural programs correctly execute nearly twice as many programs as a baseline model.

연구 동기 및 목표

• 제어 흐름과 결정 유형을 모두 학습해야 하는 노이즈가 많은 실제 세계 설정에서 프로그램 유도의 과제를 해결한다.
• 이전 접근법의 한계를 극복한다. 예를 들어 신경 추상 기계와 같은 계산 모델을 제한하거나, 딥 러닝을 배제하는 확률적 프로그래밍 언어와 같은 접근 방식이다.
• 계산 모델과 추론 알고리즘을 유연하게 지정할 수 있도록 하며, 동시에 결정 스코어링을 위한 딥 뉴럴 네트워크를 지원한다.
• 식별 가능한 결정의 잠재 표현을 학습함으로써 복잡한 구조적 추론 작업, 예를 들어 다이어그램 질문-답변와 같은 작업에서 프로그램 실행 정확도를 향상시킨다.

제안 방법

• 신경망 스코어에 기반해 옵션 간의 확률적 선택을 허용하는 가중치가 부여된 비결정적 선택 연산자를 계산 그래프 프레임워크에 통합한다.
• 각 결정이 신경망에 의해 스코어링되는 확률적 프로그램으로 프로그램 스케치를 정의한다. 이 신경망의 아키텍처는 계산 그래프 내에서 명시된다.
• 입력/출력 예제 또는 전체 실행 트레이스를 사용하여 확률적 경사 하강법을 통해 신경망 파라미터를 학습한다.
• 동일한 스케치에 대해 여러 추론 알고리즘(예: 빔 서치, 샘플링)을 지원함으로써 가능한 프로그램 실행에 대한 민첩한 추론을 가능하게 한다.
• 저수준의 시각 시스템 출력(예: 감지된 관계에 대한 최대 풀링)을 네트워크 아키텍처에 직접 통합하여 수작업 특징 없이도 잠재 특징을 학습한다.
• 식생망 추론을 위한 도메인 특화 계산 모델에 프레임워크를 적용한다. 이 경우 결정은 다이어그램에서 생물 및 먹이 관계를 식별하는 데 포함된다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크와 확률적 프로그래밍을 통합하는 통합 프레임워크가 복잡한 실제 세계 작업에서 프로그램 유도를 향상시킬 수 있는가?
• RQ2 신경망을 통한 잠재 표현 학습이 수작업 특징에 비해 결정 정확도와 전체 프로그램 실행 정확도를 향상시키는가?
• RQ3 신경망을 확률적 프로그램 스케치에 통합함으로써 다이어그램 질문-답변 작업에서 실행 정확도가 얼마나 향상되는가?
• RQ4 다양한 신경망 아키텍처(예: 다층형 대비 최대 풀링)가 불확실성 하에서의 구조적 결정 유형에 영향을 미치는 정도는 어떠한가?

주요 결과

• Maxpool PNP 모델은 식생망 데이터셋에서 14.9%의 실행 정확도를 달성했으며, 이는 Loglinear 기준 모델의 8.6%에 비해 뚜렷한 향상이다.
• 선택 정확도가 3.8% 뿐 상승(78.2%에서 82.5%로)했음에도 불구하고, Maxpool PNP 모델은 훨씬 높은 실행 정확도를 달성했으며, 이는 더 나은 잠재 표현의 영향을 보여준다.
• 2-Layer PNP 모델은 Loglinear 모델의 8.6% 대비 실행 정확도를 12.5%까지 향상시켰으며, 이는 수작업 특징이 존재하더라도 신경망이 모델링 능력을 향상시킬 수 있음을 보여준다.
• Maxpool PNP 아키텍처에 원시 시각 시스템 출력(예: 신뢰도 스코어 및 감지된 관계)을 포함시킴으로써 성능 향상이 가장 크게 발생했으며, 이는 엔드 투 엔드 특징 학습의 이점을 강조한다.
• 프레임워크는 다양한 추론 알고리즘을 지원하며, 확률적 경사 하강법을 통해 신경망 파라미터와 프로그램 실행을 공동으로 학습할 수 있다.
• 이 방법은 기준 모델에 비해 거의 두 배에 가까운 프로그램을 정확하게 실행할 수 있게 하여, 복잡한 다단계 추론 작업에서의 효과성을 검증한다.