[논문 리뷰] Correctness of Speculative Optimizations with Dynamic Deoptimization

Olivier Flückiger, Gabriel Scherer외 4명|arXiv (Cornell University)|2017. 11. 08.

Parallel Computing and Optimization Techniques인용 수 8

한 줄 요약

이 논문은 동적 언어 컴파일러에서의 사전 최적화에 대해 추론할 수 있는 형식적 프레임워크를 제안한다. 이는 고수준 중간 표현(sourir)에서 가정을 재현하여 명시적인 'assume' 명령어를 사용한다. 탈최적화 메타데이터를 일급 객체로 취급함으로써, 상수 폴딩, 인lines, 조건부 이동과 같은 탈최적화 인식 컴파일러 변환을 정확하게 수행할 수 있으며, 이는 이분화를 통한 형식적 증명으로 입증된다.

ABSTRACT

High-performance dynamic language implementations make heavy use of speculative optimizations to achieve speeds close to statically compiled languages. These optimizations are typically performed by a just-in-time compiler that generates code under a set of assumptions about the state of the program and its environment. In certain cases, a program may execute code compiled under assumptions that are no longer valid. The implementation must then deoptimize the program on-the-fly; this entails finding semantically equivalent code that does not rely on invalid assumptions, translating program state to that expected by the target code, and transferring control. This paper looks at the interaction between optimization and deoptimization, and shows that reasoning about speculation is surprisingly easy when assumptions are made explicit in the program representation. This insight is demonstrated on a compiler intermediate representation, named \sourir, modeled after the high-level representation for a dynamic language. Traditional compiler optimizations such constant folding, dead code elimination, and function inlining are shown to be correct in the presence of assumptions. Furthermore, the paper establishes the correctness of compiler transformations specific to deoptimization: namely unrestricted deoptimization, predicate hoisting, and assume composition.

연구 동기 및 목표

• 동적 언어용 Just-in-Time 컴파일러에서 사전 최적화와 동적 탈최적화 간의 상호작용을 형식화하기 위해.
• 사전 최적화와 탈최적화가 존재하는 환경에서 컴파일러 변환을 위한 원칙적이고 재사용 가능한 추론 메커니즘이 부족한 문제를 해결하기 위해.
• 가정을 중간 표현에서 명시적으로 표현함으로써 최적화와 탈최적화의 정확성에 대한 추론을 단순화할 수 있음을 보여주기 위해.
• 특수한 복구 및 사전 최적화 관리에 특화된 최적화를 포함한 탈최적화 인식 컴파일러 최적화를 위한 형식적 기반을 제공하기 위해.

제안 방법

• RIR를 영감으로 삼아, 함수의 여러 버전과 명시적 가정을 지원하는 고수준 중간 표현인 sourir를 설계한다.
• 조건부 표현식을 검사하고, 결과가 거짓일 경우 탈최적화를 유도하는 새로운 'assume' 명령어를 도입하며, 이에 관련된 탈최적화 메타데이터를 함께 제공한다.
• 다른 가정 하에서의 기능 버전 간의 의미적 동치성을 공식적으로 증명하기 위해 함수 버전 간의 이분화 관계를 정의한다.
• 스택에 올라간 교체 동안 상태 재구성의 정확성을 보장하는 탈최적화 불변성을 정의한다.
• 가정과 탈최적화가 존재하는 상황에서 표준 최적화(예: 상수 폴딩, 인라인)의 정확성을 증명한다.
• 특수 최적화인 비제한적 탈최적화, 조건부 이동, 가정 조합의 정확성을 확립한다.

실험 결과

연구 질문

• RQ1 다른 가정 하에 컴iles된 함수의 여러 버전이 의미적으로 동치가 되는 조건은 무엇인가?
• RQ2 탈최적화가 포함된 상황에서 기존 컴파일러 최적화는 어떻게 수정되어야 정확성을 유지할 수 있는가?
• RQ3 상태 재구성과 스택 프레임 생성과 같은 탈최적화 동작에 대해 어떤 형식적 보장을 제공할 수 있는가?
• RQ4 사전 실행이 존재하는 상황에서 조건부 이동 및 가정 조합 최적화는 어떻게 정확성 있게 증명할 수 있는가?
• RQ5 가정의 명시적 표현이 최적화 정확성에 대한 추론을 단순화하는 데 어떤 역할을 하는가?

주요 결과

• 명시적인 'assume' 명령어를 포함한 sourir 중간 표현은 사전 최적화와 탈최적화에 대한 명확하고 형식적인 추론을 가능하게 한다.
• 상수 폴딩, 도달 불가능한 코드 제거, 함수 인라인화와 같은 표준 컴파일러 최적화는 가정과 탈최적화가 존재하는 상황에서도 형식적으로 정확함을 입증받았다.
• 비제한적 탈최적화, 조건부 이동, 가정 조합과 같은 전용 최적화는 이분화 기반 추론을 통해 형식적으로 정확함을 입증받았다.
• 탈최적화 메타데이터가 값이 복구에 필요한지 확인할 경우에만 타당한 사전 저장소 제거가 가능하며, 이는 잘못된 최적화를 방지한다.
• 형식적 프레임워크는 이분화를 통해 최적화된 코드와 탈최적화된 코드 버전 간의 동치성과 동시 종료를 지원한다.
• 이 모델은 탈최적화 중의 스택에 올라간 교체 및 상태 재구성에 대한 추론을 지원하며, 제대로 된 제어 전달을 보장한다.