[논문 리뷰] On the Computational Complexity of Satisfiability Solving for String Theories

Susmit Jha, Sanjit A. Seshia외 1명|ArXiv.org|2009. 03. 16.

Web Application Security Vulnerabilities참고 문헌 26인용 수 8

한 줄 요약

이 논문은 소프트웨어 보안과 관련된 문자열 제약 이론의 계산 복잡도를 분석하여, 조그만이고 실용적인 조각조차도 NP-완전임을 증명한다. 이는 문자열 제약를 비트 벡터 공식으로 인코딩하여 표준 SMT 솔버를 사용해 효율적으로 해결할 수 있는 '바이트 블라스트( byte-blast)' 접근 방식을 정당화하며, 보안에 중요한 영향을 미치는 문자열 처리 응용 프로그램의 확장 가능한 검증을 가능하게 한다.

ABSTRACT

Satisfiability solvers are increasingly playing a key role in software verification, with particularly effective use in the analysis of security vulnerabilities. String processing is a key part of many software applications, such as browsers and web servers. These applications are susceptible to attacks through malicious data received over network. Automated tools for analyzing the security of such applications, thus need to reason about strings. For efficiency reasons, it is desirable to have a solver that treats strings as first-class types. In this paper, we present some theories of strings that are useful in a software security context and analyze the computational complexity of the presented theories. We use this complexity analysis to motivate a byte-blast approach which employs a Boolean encoding of the string constraints to a corresponding Boolean satisfiability problem.

연구 동기 및 목표

• 고수준 프로그래밍 언어인 C와 Java에서 보안 관련 프로그램 분석에 자주 사용되는 핵심 문자열 연산자 및 조건자 집합을 식별하고 형식화하기.
• 유도된 문자열 이론의 다양한 조각의 계산 복잡도를 분석하며, 특히 그들의 NP-완전성에 초점 맞추기.
• 기존의 SMT 솔버를 사용해 만족 가능성 해법을 효율적으로 해결할 수 있도록, 문자열 제약를 비트 벡터 논리로 인코딩하는 '바이트 블라스트' 접근 방식을 동원하고 정당화하기.
• 실제 보안 응용 프로그램에서 확장 가능성을 높이기 위해 문자열 제약에 특화된 추상화-정밀화 기법(예: 길이 추상화 및 위치 추상화) 탐색하기.

제안 방법

• C와 Java에서 흔히 사용되는 문자열 연산자 및 조건자(예: extract-i-j, contains-at-position-i)를 포함한 문자열 이론 정의하기.
• 불리안 인코딩 원리를 사용해 3-CNF SAT를 문자열 제약로 감소시켜, 이론의 비트리버스 조각의 NP-완전성을 증명하기.
• 문자열 변수를 비트 벡터로 표현하고, 연산을 논리 제약으로 인코딩하여 문자열 제약를 비트 벡터 논리로 변환하는 불리안 인코딩 구축하기.
• 두 단계 감소: 먼저 기본 연산을 포함한 핵심 문자열 이론으로 감소시킨 후, 비트 벡터 논리로 감소시켜 STP나 Z3와 같은 기존 SAT/SMT 솔버 사용 가능하게 하기.
• 실제 보안 분석에서 검색 공간을 줄이고 솔버 가이드를 제공하기 위해 길이 추상화 및 위치 추상화와 같은 추상화 기법 제안하기.
• 이전 SMT 연구에서 영감을 얻어 추상화-정밀화 루프 통합하기. 불만족 가능한 코어를 사용해 문자열 제약의 과도한 및 부족한 근사치를 정밀화하기.

실험 결과

연구 질문

• RQ1 소프트웨어 보안에서 사용되는 실용적인 문자열 이론 조각의 만족 가능성 해법의 계산 복잡도는 무엇인가?
• RQ2 SAT 기반의 바이트 블라스트 접근 방식이 문자열 제약를 비트 벡터 논리로 감소시켜 효과적으로 해결할 수 있는가?
• RQ3 extract-i-j 및 contains-at-position-i와 같은 연산의 존재가 문자열 제약 해법의 복잡도에 어떤 영향을 미치는가?
• RQ4 길이 및 위치 추상화와 같은 추상화-정밀화 기법이 실무에서 문자열 제약 해법의 확장 가능성을 향상시킬 수 있는가?
• RQ5 합집합 또는 스타 연산이 없는 경우에도 일부 문자열 논리 조각이 여전히 NP-완전한가?

주요 결과

• extract-i-j 및 contains-at-position-i를 포함한 몇 가지 작은 실용적 문자열 이론 조각은 모두 NP-완전임이 증명되었다.
• 합집합 또는 스타 연산이 없더라도 NP-완전성 결과가 유지되며, 이는 복잡도가 근본적인 문자열 연산에서 기인하며, 단지 정규 언어 표현력 때문이 아니라는 것을 시사한다.
• 3-CNF SAT에서 문자열 제약로의 감소는 이러한 문자열 조각을 해결하는 것이 일반 SAT를 해결하는 것만큼 어렵다는 것을 보여주며, NP-난이도를 입증한다.
• 기본 문제의 NP-완전성 때문에 문자열 제약를 비트 벡터 논리로 인코딩하는 바이트 블라스트 접근 방식이 타당하고 효과적인 전략으로 정당화된다.
• 길이 추상화 및 위치 추상화와 같은 추상화 기법은 실제 보안 분석에서 솔버 가이드를 제공하고 검색 공간을 줄이는 실용적인 수단으로 제안된다.
• 논문은 제안된 이론에서 표현 가능한 제약는 HAMPI와 완전히 비교 가능하지 않음을 보여주며, HAMPI의 정규 언어 기반 프레임워크에서는 표현할 수 없는 위치 기반 조건자를 포함하고 있음을 밝힌다.