[논문 리뷰] Opt: A Domain Specific Language for Non-linear Least Squares Optimization in Graphics and Imaging

Zachary DeVito, Michael W. Mara외 7명|arXiv (Cornell University)|2016. 04. 22.

Computer Graphics and Visualization Techniques참고 문헌 14인용 수 12

한 줄 요약

이 논문은 그래픽스 및 비전 연구자들이 이미지와 메시 위에서 스텐실 기반 에너지 함수를 사용하여 비선형 최소 제곱 최적화 문제를 고수준으로 표현할 수 있도록 해주는 도메인 특화 언어 Opt을 소개한다. Opt 컴파일러는 가우스-뉴턴 및 레벤버그-마르카르트 솔버를 위한 고도로 최적화된 GPU 커널을 자동으로 생성하며, 수작업으로 최적화된 응용 프로그램 전용 구현과 경쟁 가능한 성능을 달성하면서도 정밀도, 행렬 미사용 또는 재료화된 저장 방식, 솔버 유형 간의 탄력적인 트레이드오프를 지원한다.

ABSTRACT

Many graphics and vision problems can be expressed as non-linear least squares optimizations of objective functions over visual data, such as images and meshes. The mathematical descriptions of these functions are extremely concise, but their implementation in real code is tedious, especially when optimized for real-time performance on modern GPUs in interactive applications. In this work, we propose a new language, Opt (available under http://optlang.org), for writing these objective functions over image- or graph-structured unknowns concisely and at a high level. Our compiler automatically transforms these specifications into state-of-the-art GPU solvers based on Gauss-Newton or Levenberg-Marquardt methods. Opt can generate different variations of the solver, so users can easily explore tradeoffs in numerical precision, matrix-free methods, and solver approaches. In our results, we implement a variety of real-world graphics and vision applications. Their energy functions are expressible in tens of lines of code, and produce highly-optimized GPU solver implementations. These solver have performance competitive with the best published hand-tuned, application-specific GPU solvers, and orders of magnitude beyond a general-purpose auto-generated solver.

연구 동기 및 목표

• 그래픽스 및 비전 응용 프로그램을 위한 수작업으로 최적화된 GPU 가속 비선형 최소 제곱 솔버를 작성하는 데 드는 높은 구현 비용과 유지보수 부담을 해결하기 위해.
• 이미지 또는 메시 데이터 위에서 스텐실과 그래프 기반의 간결한 고수준 코드를 사용해 복잡한 최적화 문제를 표현할 수 있도록 하기 위해.
• 매트릭스 미사용 및 재료화된 솔버 접근 방식을 모두 지원하는 효율적인 응용 프로그램 전용 GPU 커널을 자동으로 생성하기 위해.
• 수치 정밀도, GN 대비 LM 방법, 하이브리드 재료화 전략과 같은 솔버 구성 요소에 대한 탄력적인 유연성을 제공하면서 에너지 함수를 다시 작성하지 않고도 가능하게 하기 위해.
• 고수준 수학적 수식과 저수준 GPU 최적화 솔버 사이의 격차를 좁혀 전문가 수준의 CUDA 프로그래밍이 필요로 하는 정도를 줄이기 위해.

제안 방법

• Opt 언어는 고정 크기의 이동 불변 스텐실 패턴을 사용하여 2D/3D 격자, 메시 또는 일반 그래프 위에서 에너지 함수를 정의할 수 있도록 한다.
• 컴파일러는 가우스-뉴턴 및 레벤버그-마르카르트 방법에서 요구하는 도함수 항목(JT F 및 JT J)을 계산하기 위해 하이브리드 기호적-자동 미분(간소화된 D⋆ 알고리즘)을 사용한다.
• 런타임 오버헤드를 제거하기 위해 코드 생성 및 메타프로그래밍을 활용하여 행렬-벡터 곱셈(JT Jp 등)을 위한 최적화된 GPU 커널을 생성한다.
• 매트릭스 미사용 및 재료화된 선형 솔버를 모두 지원하며, 내부 솔버로는 병렬 조건부 공액 기울기(Preconditioned Conjugate Gradient, PCG)를 사용하고, 성능 튜닝을 위한 하이브리드 재료화 전략을 가능하게 한다.
• 에너지 정의와 솔버 알고리즘을 분리함으로써 가우스-뉴턴, 레벤버그-마르카르트 및 기타 변종 간의 원활한 전환을 가능하게 한다.
• 컴파일러는 최적화된 CUDA 코드를 생성하여 솔버 파이프라인에 직접 통합함으로써 성능 손실를 최소화한다.

실험 결과

연구 질문

• RQ1 고수준 도메인 특화 언어가 그래픽스 및 비전 분야에서 GPU 가속 비선형 최소 제곱 솔버의 구현 복잡도를 크게 줄일 수 있는가?
• RQ2 자동 도함수 계산과 코드 생성이 수작업 최적화된 응용 프로그램 전용 GPU 솔버의 성능을 따라하거나 뛰어나게 할 수 있는가?
• RQ3 실제로 부분적으로 매트릭스를 사용하고 부분적으로 미사용하는 하이브리드 재료화 전략이 완전히 매트릭스를 사용하거나 완전히 미사용하는 방식보다 얼마나 효과적인가?
• RQ4 동일한 에너지 사양이 float과 double 정밀도, GN과 LM 솔버 유형 모두에 대해 효율적으로 컴파일될 수 있는가?
• RQ5 스텐실 기반 추상화가 다양한 그래픽스 및 비전 응용 프로그램에서 간결하고 유지보수가 쉬우며 고성능을 발휘하는 코드를 가능하게 하는가?

주요 결과

• Opt로 생성된 솔버는 수개월에 걸친 수작업 최적화가 필요한 최고 수준의 공개된 수작업 최적화 GPU 솔버와 경쟁 가능한 성능을 달성한다.
• 시스템은 Ceres와 같은 일반 목적의 최적화 라이브러리보다 런타임 효율성에서 수개의 주요 차수를 뛰어넘는 성능 향상을 보였다.
• 모든 경우에서 매트릭스를 사용하지 않는 변형이 재료화된 변형보다 더 효율적이었으며, 형태에서 빛의 반사율을 추정하는 문제에서 하이브리드 재료화 전략으로 최대 7배의 성능 향상을 기록했다.
• 예를 들어, 형태에서 빛의 반사율을 추정하는 문제에서 조명 항목만 재료화하는 하이브리드 재료화 전략은 완전히 매트릭스를 사용하거나 완전히 미사용하는 방식보다 2~7배 빠른 성능을 보였다.
• 이미지 왜곡 문제에서는 명시적 그래프 표현 방식 대신 암묵적인 격자 연결을 사용함으로써 중간 크기에서 대규모 이미지에서 수렴 시간을 최대 2배로 단축시켰다.
• 시스템은 구성의 탄력성 지원: 사용자는 에너지 함수를 수정하지 않고도 float/double 정밀도, GN/LM 솔버, 매트릭스 미사용/재료화 모드 간에 쉽게 전환할 수 있다.