[논문 리뷰] REAS: Combining Numerical Optimization with SAT Solving

Jeevana Priya Inala, Sicun Gao외 2명|arXiv (Cornell University)|2018. 02. 13.

Formal Methods in Verification참고 문헌 27인용 수 7

한 줄 요약

ReaS는 이산적이고 연속적인 계산을 모두 포함하는 프로그램을 합성하기 위해 수치 최적화와 SAT 해결을 결합하는 새로운 프레임워크를 소개한다. 시그모이드 함수를 사용해 불린 표현식(예: 조건문)을 부드럽게 하고 불린 변수를 [0,1] 구간으로 이완함으로써, 기울기 기반 최적화를 위한 엔드 투 엔드 미분 가능성을 확보한다. 同시에 SAT 솔버를 사용해 이산적 결정을 고정하고 국소 최적해에서 벗어나며, 이로써 이전의 SMT 및 혼합정수계획법 솔버가 해결하지 못한 복잡한 하이브리드 시스템 컨트롤러의 효율적 합성을 가능하게 한다.

ABSTRACT

In this paper, we present ReaS, a technique that combines numerical optimization with SAT solving to synthesize unknowns in a program that involves discrete and floating point computation. ReaS makes the program end-to-end differentiable by smoothing any Boolean expression that introduces discontinuity such as conditionals and relaxing the Boolean unknowns so that numerical optimization can be performed. On top of this, ReaS uses a SAT solver to help the numerical search overcome local solutions by incrementally fixing values to the Boolean expressions. We evaluated the approach on 5 case studies involving hybrid systems and show that ReaS can synthesize programs that could not be solved by previous SMT approaches.

연구 동기 및 목표

• 기존의 SMT 및 혼합정수계획법 솔버가 이산적이고 연속적인 구성 요소를 모두 포함하는 프로그램을 합성하는 데 가지는 한계를 해결한다.
• 기존 SMT 솔버에서 이산적이고 연속적인 추론을 분리함으로써 기하급수적으로 증가하는 솔버 호출과 낮은 확장성 문제를 해결한다.
• 불린 구조(예: 조건문)를 포함한 프로그램에서 엔드 투 엔드 미분 가능성을 확보하여 기울기 기반 최적화를 효율적으로 수행할 수 있도록 한다.
• SAT 해결을 통해 불린 표현식의 값을 고정함으로써 수치 최적화를 이끄는 데 활용하여 수렴성을 향상시키고 정확한 부드럽게 처리에 대한 의존도를 줄인다.
• 기존 방법으로는 해결이 불가능한 실제 하이브리드 시스템 컨트롤러 합성 문제에 대해 본 방법의 효과성을 입증한다.

제안 방법

• 불린 표현식(예: 조건문)을 시그모이드 함수를 사용해 연속적이고 미분 가능한 근사값으로 변환함으로써 비연속적인 논리의 부드러운 표현을 확보한다.
• 불린 미지수를 [0,1] 구간의 실수 변수로 이완하여 전체 프로그램 구조에 대한 기울기 기반 수치 최적화를 가능하게 한다.
• 자동 미분을 사용해 전체 프로그램의 기울기를 계산함으로써 기울기 하강법을 통한 효율적 최적화를 가능하게 한다.
• 제약 조건에 기반해 불린 표현식의 값을 점진적으로 고정함으로써 검색 공간을 축소하고 국소 최적해에서 벗어나도록 하는 SAT 솔버를 통합한다.
• 부드럽게 처리된 논리에서 발생할 수 있는 충돌 상황을 대비해 소프트 학습된 절취를 지원하고 동적 수정이 가능한 SAT 솔버를 확장한다.
• 스케치 프레임워크를 프론트엔드로 사용하여 실수 및 불린 형식의 미지수, 주장, 복잡한 데이터 구조(배열, 고유자료형)를 포함한 고수준 프로그램을 표현한다.

실험 결과

연구 질문

• RQ1 이산 제어 구조(예: 조건문)를 포함한 프로그램에서 엔드 투 엔드 미분 가능성을 확보하면서도 효율적인 수치 최적화를 수행할 수 있는가?
• RQ2 SAT 해결과 기울기 기반 최적화를 융합함으로써 순수 SMT나 혼합정수계획법 대비 수렴성과 확장성 측면에서 하이브리드 시스템 합성에 유리한가?
• RQ3 불린 표현식의 값을 고정하는 SAT 솔버를 사용함으로써 부드럽게 처리된 논리에서 발생하는 근사 오차의 영향을 줄일 수 있는가?
• RQ4 dReal 및 Z3와 같은 기존 SMT 솔버가 해결하지 못하는 파rametric 컨트롤러를 포함한 하이브리드 시스템 합성 문제를 ReaS가 해결할 수 있는가?
• RQ5 비미분 가능 구조로 인해 기울기 기반 최적화가 불가능한 기존 방법에 비해, 제안된 부드럽게 처리 및 이완 기법이 더 효과적인가?

주요 결과

• ReaS는 하이브리드 시스템의 파arametric 컨트롤러를 3~11분 내로 성공적으로 합성하였고, dReal과 Z3는 60분이 넘도록 동일한 벤치마크를 해결하지 못했다.
• Gurobi가 60분 이상 소요된 혼합정수계획법 벤치마크를 ReaS는 단 3초 만에 해결하여 최신 MIP 솔버 대비 뛰어난 성능을 보였다.
• 불린 표현식의 값을 고정하는 SAT 솔버의 사용은 부드럽게 처리 과정에서 발생하는 근사 오차에 대한 강건성을 크게 향상시켰고, 더 단순하고 효율적인 시그모이드 기반 부드럽게 처리를 가능하게 하였다.
• ReaS는 부드럽게 처리와 이완을 통해 엔드 투 엔드 미분 가능성을 확보하여, 이전 방법이 널리 메이드 또는 기울기 기반 기법을 사용하지 못했던 곳에서도 효과적인 기울기 기반 최적화를 가능하게 하였다.
• 수치 최적화와 SAT 해결의 통합을 통해 연속적이고 이산적인 구성 요소 간의 구조적 의존성을 효과적으로 활용하였고, DPLL(T)-기반 SMT 솔버에서 흔히 발생하는 기하급수적 솔버 호출을 피할 수 있었다.
• 기계적 프로그램 학습 방법과 이전의 부드러운 해석 기법에 비해, 상징적 추론과 기울기 기반 최적화의 장점을 융합함으로써 본 방법은 뛰어난 성능을 발휘하였다.