[논문 리뷰] PrettyCat: Adaptive guarantee-controlled software partitioning of security protocols

Alexander Senier, Martín Beck외 1명|arXiv (Cornell University)|2017. 06. 15.

Security and Verification in Computing참고 문헌 10인용 수 4

한 줄 요약

PrettyCat는 SMT 기반 제약 분석과 성능 인지 최적화를 사용하여 보안 프로토콜을 그들이 요구하는 보안 보장을 기반으로 고립된 소프트웨어 컴포넌트로 자동이고 타당하게 분할하는 방법이다. 이는 OTR의 신뢰할 수 있는 계산 기반(TCB)을 53% 감소시키고 기밀성 핵심 코드를 71% 감소시키며, 샌드박싱 수준의 오버헤드로 기밀성에 대한 TCB를 29%로 줄였다.

ABSTRACT

One single error can result in a total compromise of all security in today's large, monolithic software. Partitioning of software can help simplify code-review and verification, whereas isolated execution of software-components limits the impact of incorrect implementations. However, existing application partitioning techniques are too expensive, too imprecise, or involve unsafe manual steps. An automatic, yet safe, approach to dissect security protocols into component-based systems is not available. We present a method and toolset to automatically segregate security related software into an indefinite number of partitions, based on the security guarantees required by the deployed cryptographic building blocks. As partitioning imposes communication overhead, we offer a range of sound performance optimizations. Furthermore, by applying our approach to the secure messaging protocol OTR, we demonstrate its applicability and achieve a significant reduction of the trusted computing base. Compared to a monolithic implementation, only 29% of the partitioned protocol requires confidentiality guarantees with a process overhead comparable to common sandboxing techniques.

연구 동기 및 목표

• 신뢰할 수 있는 계산 기반(TCB)을 최소화하는 자동적이고 타당하며 정밀한 보안 프로토콜 소프트웨어 분할 기법의 부족을 해결하기 위해.
• 수동적인 실수 유발 분석 없이도 보안 핵심 컴포넌트와 그들이 요구하는 보장을 체계적으로 식별하기 위해.
• 보안(TCB 크기)과 성능(프로세스 간 통신 오버헤드) 사이의 구성 가능한 트레이드오프를 가능하게 하기 위해.
• 최소한의 핵심 컴포넌트만 고립시켜 형식적 검증과 코드 리뷰를 가능하게 하기 위해.
• 비핵심 컴포넌트를 보안 보장에서 분리시켜 보안 프로토콜의 공격 표면을 줄이기 위해.

제안 방법

• 보안 프로토콜을 보안 예측(예: 기밀성, 무결성)으로 표시된 채널을 통해 연결된 원시 기능들의 그래프로 모델링하기.
• 암호학적 가정에 기반해 SMT 기반 제약 데이터 플로우 분석을 적용하여 각 원시 기능에 타당한 보안 보장을 할당하기.
• 유사한 보장을 가진 원시 기능들을 컴포넌트로 묶어 TCB를 최소화하면서도 성능 최적화를 수행하기.
• 배치 처리 및 인터페이스 호출 횟수 감소와 같은 성능 최적화를 도입하여 컴포넌트 간 통신(IPC) 오버헤드를 최소화하기.
• 형식적 모델을 사용해 컴포넌트 간 통신 정책을 유도하여 분할된 시스템의 타당성과 정확성을 보장하기.
• 자동화된 도구를 통한 컴포넌트 기반 시스템 합성 지원을 제공하며, 향후 작업으로 소스 코드에서 직접 모델을 추출하는 것을 목표로 한다.

실험 결과

연구 질문

• RQ1 보안 프로토콜은 타당한 보장이 보장된 고립된 컴포넌트로 자동으로 분할될 수 있는가?
• RQ2 보안 보장을 유지하면서도 신뢰할 수 있는 계산 기반(TCB)을 어떻게 최소화할 수 있는가?
• RQ3 컴포넌트화 과정에서 발생하는 성능 오버헤드는 무엇이며, 이를 수용 가능한 수준으로 줄일 수 있는가?
• RQ4 기밀성과 무결성 보장을 별도로 처리할 수 있는가? 이를 통해 TCB를 추가로 줄일 수 있는가?
• RQ5 분할 과정은 얼마나 자동화될 수 있으며, 수동 개입과 실수를 줄일 수 있는가?

주요 결과

• PrettyCat는 단일 구현에서 10,957 소스 라인 코드(SLOC)였던 OTR 프로토콜의 TCB를 분할된 구현에서 5,800 SLOC으로 줄여 53% 감소시켰다.
• 기밀성 보장을 요구하는 코드의 비율은 원래 단일 구현 크기의 29%로 감소하여 TCB 최소화의 뚜렷한 성과를 보였다.
• 분할된 시스템의 성능 오버헤드는 일반적인 샌드박싱 기법과 유사하여 실용적 구현 가능성에 부합한다.
• 기밀성과 무결성을 별도로 처리함으로써 더 작고 집중된 컴포넌트를 만들 수 있었으며, 이는 검증에 유리했다.
• 이 방법은 오직 최소한의 핵심 컴포넌트에 대해서만 형식적 검증을 가능하게 하였고, 비핵심 부분은 보안 보장 없이도 구현할 수 있었다.
• 초기 결과로 소스 코드에서 모델 추출(예: FlowDroid를 통한)이 가능함을 확인하여, 향후 도구의 완전 자동화를 위한 길을 열었다.