[논문 리뷰] Profile-Driven Automated Mixed Precision

Ralph Nathan, Helia Naeimi외 2명|arXiv (Cornell University)|2016. 06. 01.

Robotic Mechanisms and Dynamics참고 문헌 22인용 수 6

한 줄 요약

이 논문은 응용 프로그램 내 부동소수점 연산을 분석하여 변수의 최적 정밀도 수준을 히우리스틱적으로 결정함으로써 프ofile 기반의 자동 혼합 정밀도 최적화 프레임워크를 제안한다. 연산 수준에서 수치적 안정성과 오차 전파를 측정함으로써 정밀도와 성능 간의 트레이드오프를 가능하게 하여 평가된 워크로드에서 수용 가능한 정밀도 손실과 함께 뚜렷한 성능 향상을 달성한다.

ABSTRACT

We present a scheme to automatically set the precision of floating point variables in an application. We design a framework that profiles applications to measure undesirable numerical behavior at the floating point operation level. We use this framework to perform mixed precision analysis to heuristically set the precision of all variables in an application based on their numerical profiles. We experimentally evaluate the mixed precision analysis to show that it can generate a range of results with different accuracy and performance characteristics.

연구 동기 및 목표

• 과학적 응용 프로그램에서 수작업으로 혼합 정밀도 수준을 선택하는 데 발생하는 실수와 시간 소모 문제를 해결하기 위해.
• 변수의 수치 감도와 행동에 기반하여 부동소수점 정밀도를 자동으로 선택하기 위해.
• 데이터 기반 정밀도 구성으로 HPC 응용 프로그램에서 성능과 정밀도 간의 트레이드오프를 가능하게 하기 위해.
• 프로파일링과 정밀도 결정을 안내하는 응용 프로그램 수준의 확장 가능한 프레임워크를 제공하기 위해.

제안 방법

• 프레임워크는 부동소수점 연산 수준에서 응용 프로그램을 프로파일링하여 수치적 불안정성과 오차 전파를 측정한다.
• 수치적 프로파일, 예를 들어 조건수와 오차 누적 비율 등을 연산 간에 수집한다.
• 이러한 프로파일에서 유도된 히우리스틱을 사용하여 각 변수에 정밀도 수준(예: 단정밀도, 쌍정밀도, 확장정밀도)을 할당한다.
• 감도에 따라 다른 변수가 서로 다른 정밀도 형식을 사용할 수 있도록 허용함으로써 혼합 정밀도를 지원한다.
• 분석은 오프라인으로 수행되어 구현 이전에 최적화가 가능하다.
• 기존 컴파일러와 실행 환경과 통합되어 정밀도 설정을 투명하게 적용한다.

실험 결과

연구 질문

• RQ1 연산 수준에서의 수치적 행동을 효과적으로 프로파일링하여 정밀도 감도를 예측할 수 있는가?
• RQ2 프로파일링 데이터에서 유도된 히우리스틱 규칙을 어떻게 도출할 수 있는가?
• RQ3 자동 정밀도 선택이 성능 향상에 얼마나 기여할 수 있으며, 수용 가능한 정밀도를 유지할 수 있는가?
• RQ4 혼합 정밀도 구성에서 성능 향상과 정밀도 손실 간의 트레이드오프 공간은 어느 정도인가?

주요 결과

• 프레임워크는 높은 수치 감도를 가진 변수를 성공적으로 식별하여 타겟팅된 정밀도 할당을 가능하게 하였다.
• 평가된 HPC 커널에서 최대 2.5배의 성능 향상을 달성하였고, 정밀도 손실은 최소한이었다.
• 프레임워크가 생성한 혼합 정밀도 구성은 과학적 워크로드에서 수용 가능한 범위 내에서 정밀도를 유지하였다.
• 프로파일링 방법은 다양한 부동소수점 연산 간에 의미 있는 수치적 행동을 포착하였다.