[논문 리뷰] Efficient System-Enforced Deterministic Parallelism

Amittai Aviram, Shu-Chun Weng외 2명|arXiv (Cornell University)|2010. 05. 19.

Parallel Computing and Optimization Techniques참고 문헌 42인용 수 27

한 줄 요약

이 논문은 최소한의 커널 API를 통해 동시성 프로세스와 스레드를 격리함으로써 시스템 수준의 결정론적 병렬 처리를 강제하는 새로운 운영체제 Determinator를 제안한다. 이는 실행 간 비트 단위로 동일한 실행을 보장한다. 이는 굵은 병렬 작업 워크로드에 대해 전통적인 시스템과 비교해 성능가능성을 유지하면서 내부 이벤트 로깅이 필요 없게 하여 정상 실행 환경에서도 결정론적 실행을 가능하게 하고, 디버깅, 장애 내성, 보안 분석에 강력한 기반을 제공한다.

ABSTRACT

Deterministic execution offers many benefits for debugging, fault tolerance, and security. Running parallel programs deterministically is usually difficult and costly, however - especially if we desire system-enforced determinism, ensuring precise repeatability of arbitrarily buggy or malicious software. Determinator is a novel operating system that enforces determinism on both multithreaded and multi-process computations. Determinator's kernel provides only single-threaded, "shared-nothing" address spaces interacting via deterministic synchronization. An untrusted user-level runtime uses distributed computing techniques to emulate familiar abstractions such as Unix processes, file systems, and shared memory multithreading. The system runs parallel applications deterministically both on multicore PCs and across nodes in a cluster. Coarse-grained parallel benchmarks perform and scale comparably to - sometimes better than - conventional systems, though determinism is costly for fine-grained parallel applications.

연구 동기 및 목표

• 모든 종류의 버그가 있거나 악성 코드가 포함된 프로그램에 대해서도 시스템 수준에서 결정론적 실행을 달성하는 데 도전하는 것.
• 기록-재생 디버깅에서 내부 이벤트 로깅이 필요 없도록 하기 위해 커널 수준에서 결정론성을 강제하는 것.
• 다중 코어 시스템과 클러스터에서 다중 스레드 및 다중 프로세스 응용 프로그램의 결정론적 실행을 가능하게 하는 것.
• 시간에 민감한 사이드 채널을 방지함으로써 악성 코드 분석 및 히젠버그 버그 재현에 안전하고 신뢰할 수 있는 기반을 제공하는 것.
• 결정론적 실행이 정상 워크로드에 대해 효율적이고 확장 가능하며, 정확성과 보안을 희생하지 않고도 구현 가능하다는 것을 입증하는 것.

제안 방법

• 커널은 공유 상태가 없는 단일 스레드, 공유 자원이 없는 주소 공간(이하 '스페이스')만 제공함으로써 결정론성을 강제한다.
• 동기화는 특정 스레드 간 일대일, 결정론적 통신을 통해 최소한의 시스템 호출 집합을 통해 강제한다.
• 실제 시간은 I/O로 간주되며, 장치 인터페이스를 통해 제어되어 시간에 민감한 사이드 채널을 방지한다.
• 사용자 수준 런타임은 파일 복제 및 파일 버전 관리와 같은 결정론적 가상화 메커니즘을 사용해 공유 메모리, 파일 시스템, pthreads와 같은 익숙한 추상화를 모방한다.
• 커널의 최소한의 API(3개의 시스템 호출)는 사용자 수준 런타임의 버그나 악성 코드가 결정론성을 약화시키는 것을 방지한다.
• 결정론적 스케줄링은 시스템 수준에서 강제되며, 스케줄링 로직이 응용 프로그램 코드와 분리되어 비결정론적 동작을 방지한다.

실험 결과

연구 질문

• RQ1 내부 이벤트 로깅에 의존하지 않고도 다중 스레드 및 다중 프로세스 병렬 프로그램에 대해 시스템 수준의 결정론성을 달성할 수 있는가?
• RQ2 기존 시스템과 비교해 유사한 성능을 보장하면서도 정상 워크로드에 대해 결정론적 실행을 실현할 수 있는가?
• RQ3 시간에 민감한 사이드 채널을 어떻게 제거할 수 있으며, 이를 통해 악성 코드가 분석을 피할 수 없도록 할 수 있는가?
• RQ4 최소한의 커널 API가 사용자 수준 런타임이 신뢰할 수 없거나 버그가 있어도 결정론성이 유지됨을 보장할 수 있는가?
• RQ5 미세한 병렬 처리 응용 프로그램에 비해 굵은 병렬 처리 응용 프로그램에 비해 결정론성으로 인한 성능 오버헤드는 어느 정도인가?

주요 결과

• Determinator는 굵은 병렬 벤치마크에서 기존 시스템과 유사하거나 더 나은 성능 및 확장성을 보이며 결정론적 실행을 달성한다.
• 미세한 병렬 처리 응용 프로그램에 대해서는 가상화된 시간과 동기화의 오버헤드로 인해 높은 성능 손실이 발생한다.
• 커널의 최소한의 API(15,000 줄 이내)는 결정론성이 시스템 수준에서 강제되고 런타임 버그에 의해 손상되지 않음을 보장한다.
• 사용자 수준 런타임은 파일 버전 관리 및 분산 공유 메모리와 같은 결정론적 기법을 사용해 유닉스 프로세스, 파일 시스템, 공유 메모리 다중 스레딩을 성공적으로 모방한다.
• Determinator의 구현 복잡도는 유사한 시스템에 비해 크게 낮으며, 전체 시스템은 14,492줄의 코드로 구성되었고, 지침용 서브셋인 PIOS는 5,385줄이었다.
• Determinator는 정상 실행 환경에서도 시스템 수준의 결정론적 실행이 가능함을 입증하여 내부 이벤트 로깅 없이도 히젠버그 버그 및 악성 코드의 신뢰할 수 있는 재현과 분석이 가능함을 보여준다.