[논문 리뷰] Adaptive Neural Compilation

Rudy Bunel, Alban Desmaison외 3명|arXiv (Cornell University)|2016. 05. 25.

Reinforcement Learning in Robotics참고 문헌 13인용 수 27

한 줄 요약

이 논문은 저수준 프로그램을 미분 가능한 신경망 표현으로 컴파일하는 프레임워크인 적응형 신경 컴파일러(Adaptive Neural Compiler, ANC)를 소개한다. 이는 경사 하강법을 통한 데이터 기반 최적화를 가능하게 하며, 입력 데이터 분포에 따라 학습된 프로그램이 효율적으로 적응하여, 편향된 데이터셋에서 일정 시간 실행이 가능한 링크드 리스트 접근과 같은 작업에서 높은 성능을 달성한다.

ABSTRACT

This paper proposes an adaptive neural-compilation framework to address the problem of efficient program learning. Traditional code optimisation strategies used in compilers are based on applying pre-specified set of transformations that make the code faster to execute without changing its semantics. In contrast, our work involves adapting programs to make them more efficient while considering correctness only on a target input distribution. Our approach is inspired by the recent works on differentiable representations of programs. We show that it is possible to compile programs written in a low-level language to a differentiable representation. We also show how programs in this representation can be optimised to make them efficient on a target distribution of inputs. Experimental results demonstrate that our approach enables learning specifically-tuned algorithms for given data distributions with a high success rate.

연구 동기 및 목표

• 전체 분포가 알려져 있지 않은 특정 입력 데이터 분포에 대해 일반 알고리즘을 최적화하는 과제를 해결한다.
• 의미적 동치성 또는 비미분 가능한 검색에 의존하는 전통적 컴파일러 및 슈퍼옵티마이저의 한계를 극복한다.
• 기울기 기반 최적화에 적합한 미분 가능한 형식으로 프로그램을 변환함으로써 효율적이고 데이터 인식 프로그램 적응을 가능하게 한다.
• 교육 히ュ리스틱(예: 커리큘럼 학습)과 같은 복잡한 학습 전략에 의존하는 것을 줄이기 위해 컴파일을 통한 미분 가능한 초기화를 제공한다.
• 주어진 입력 분포에서 정확성을 희생하지 않고 알고리즘의 런타임 효율성을 향상시킨다.

제안 방법

• 지정된 컴파일러를 사용해 저수준 프로그램을 미분 가능한 연산으로 매핑함으로써, 미분 가능한 신경망 표현으로 컴파일한다.
• 레지스터와 명령어를 학습 가능한 파라미터로 모델링한, 미분 가능한 메모리(예: 테이프 기반 모델) 위의 연산 시퀀스로 프로그램을 표현한다.
• 입력-출력 쌍의 데이터셋에서 손실을 최소화하도록 기울기 하강법을 사용해 프로그램 파라미터를 최적화하며, 빠른 실행을 선호한다.
• READ, WRITE, INC, DEC, JEZ, STOP 등의 미분 가능한 연산을 활용해 프로그램 논리의 엔드 투 엔드 학습을 가능하게 한다.
• 입력 데이터 패턴에 적응하는 지시어 시퀀스를 생성하기 위해 미분 가능한 컨트롤러(예: LSTM 기반)를 적용한다.
• 정확성(예측 정확도)과 효율성(실행 시간 또는 단계 수)을 모두 포함하는 손실 함수를 사용해 통합 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 저수준 코드로부터 기울기 기반 최적화를 가능하게 하는 미분 가능한 프로그램 표현을 구성할 수 있는가?
• RQ2 의미를 변경하지 않고 특정 입력 분포에서 일반 알고리즘보다 데이터 기반 최적화가 성능을 뛰어나게 할 수 있는가?
• RQ3 기울기 하강법이 컴파일된 미분 가능한 표현에서 비트리비얼한 프로그램 변형(예: 루프 건너뛰기)을 얼마나 잘 발견할 수 있는가?
• RQ4 기본 컴파일링 또는 검색 기반 방법과 비교해 ANC 프레임워크는 최적화된 프로그램을 얼마나 효과적으로 학습하는가?
• RQ5 기울기 기반 최적화는 학습된 프로그램에서 불필요하거나 사용되지 않는 명령어를 제거하는 데 얼마나 효과적인가?

주요 결과

• ANC 프레임워크는 기울기 하강법을 통한 엔드 투 엔드 학습을 지원하는 저수준 프로그램의 미분 가능한 표현으로 성공적으로 컴파일한다.
• 편향된 링크드 리스트 접근 작업에서, 학습된 프로그램은 루프를 완전히 건너뛰고 직접 목표 주소를 계산함으로써 일정 시간 접근(O(1))을 달성한다.
• 모델는 최적화된 프로그램을 학습하는 데 높은 성공률를 기록하며, 편향된 데이터셋에서 테스트 케이스의 99%에서 원하는 요소를 정확히 접근한다.
• 효율성 향상에도 불구하고, 모델는 여전히 불필요한 연산(예: 사용되지 않는 레지스터 왤기)을 유지하고 있어, 기울기 기반 발견의 구조 최적화 한계를 보여준다.
• 미분 가능한 표현은 의미적 동치성 이상의 데이터 특화 성능 향상을 가능하게 하며, 분포 인식 알고리즘 학습의 가능성을 입증한다.
• 기울기 지도 탐색을 통해 프로그램 공간을 직접 탐색할 수 있기 때문에, 전통적 컴파일링 및 비미분 가능한 슈퍼옵티마이제이션보다 성능이 뛰어나다.