[논문 리뷰] Augmenting Operating Systems With the GPU

Weibin Sun, Robert Ricci|arXiv (Cornell University)|2013. 05. 15.

Parallel Computing and Optimization Techniques참고 문헌 15인용 수 13

한 줄 요약

이 논문은 Linux 커널이 암호화 및 네트워크 패킷 처리와 같은 계산 집약적인 작업을 GPU로 오프로드할 수 있도록 하는 KGPU 프레임워크를 제안한다. 핀(memory) 메모리와 사용자 공간 헬퍼를 활용한 메시지 전달 파이프라인을 통해 GPU 호출 지연을 줄이고, 큰 데이터 블록에서 AES-ECB 암호화에 대해 최대 6배의 성능 향상을 달성하여 GPU 보조 운영체제의 실현 가능성을 입증한다.

ABSTRACT

The most popular heterogeneous many-core platform, the CPU+GPU combination, has received relatively little attention in operating systems research. This platform is already widely deployed: GPUs can be found, in some form, in most desktop and laptop PCs. Used for more than just graphics processing, modern GPUs have proved themselves versatile enough to be adapted to other applications as well. Though GPUs have strengths that can be exploited in systems software, this remains a largely untapped resource. We argue that augmenting the OS kernel with GPU computing power opens the door to a number of new opportunities. GPUs can be used to speed up some kernel functions, make other scale better, and make it feasible to bring some computation-heavy functionality into the kernel. We present our framework for using the GPU as a co-processor from an OS kernel, and demonstrate a prototype in Linux.

연구 동기 및 목표

• GPU를 커널 내에서 보조 프로세서로 사용하여 성능이 중요한 시스템 기능을 가속화할 수 있는지 탐색한다.
• 커널과 GPU 간의 낮은 지연 통신 프레임워크를 설계하여 GPU 오프로딩의 지연 오버헤드를 해소한다.
• GPU 가속이 기존의 암호화 및 네트워킹 서브시스템과 효과적으로 통합될 수 있음을 입증한다.
• CPU에서는 너무 느려서 구현이 어려운 새로운 시스템 기능을 GPU의 대량 병렬 처리 능력을 활용해 가능하게 한다.
• GPU를 일반 목적의 CPU가 아닌 전용 가속기로 간주하는 향후 이종 운영체제 아키텍처의 기반을 마련한다.

제안 방법

• 사용자 공간 헬퍼와 메시지 전달 인터페이스를 통해 커널에서 직접 GPU를 호출할 수 있도록 하는 KGPU 프레임워크를 설계한다.
• CUDA 관리 핀 메모리를 사용하여 CPU와 GPU 간의 데이터 전송 오버헤드를 최소화한다.
• GPU 서비스 호출을 위한 다섯 단계 파이프라인을 구현한다: 준비, GPU로의 DMA 전송, GPU 실행, GPU에서의 DMA 수신, 결과 반환.
• 공유 응답 큐와 완료 메시지를 활용하여 비동기 GPU 작업을 가능하게 하고, 데이터 전송과 계산을 겹치게 한다.
• 사례 연구로 GPU 가속 AES-ECB 암호화를 Linux 암호 서브시스템에 통합한다.
• 다양한 데이터 크기에서 성능을 평가하기 위해 마이크로 벤치마크를 사용하고 GPU 및 CPU 구현을 비교한다.

실험 결과

연구 질문

• RQ1 GPU 가속이 운영체제 커널에 효과적으로 통합되어 시스템 핵심 기능의 성능을 향상시킬 수 있는가?
• RQ2 커널 작업을 GPU로 오프로드할 때 지연을 최소화하는 아키텍처 패턴은 무엇인가?
• RQ3 암호화 및 네트워킹 워크로드에서 GPU 오프로딩은 처리량과 지연에 어떤 영향을 미치는가?
• RQ4 소규모 대비 대규모 데이터 크기에 대해 CPU와 GPU 실행 간의 성능 트레이드오프는 어떻게 되는가?
• RQ5 기존 커널 서브시스템 내에서 GPU 가속 서비스를 안전하고 효율적으로 조합할 수 있는가?

주요 결과

• KGPU 프레임워크는 사용자 공간 헬퍼와 메시지 전달을 통해 커널에서 GPU 오프로딩을 성공적으로 구현하였으며, 파이프라인과 핀 메모리를 통해 지연을 줄였다.
• 8KB 이상의 데이터 블록을 암호화할 경우 GPU 가속 AES-ECB 암호화는 최적화된 CPU 버전 대비 최대 6배의 성능 향상을 달성한다.
• 성능 전환점은 8KB에서 발생하며, 이는 암호화 파일시스템에서 페이지 단위 암호화가 GPU 가속으로 크게 이점을 얻을 수 있음을 의미한다.
• 프레임워크는 다섯 단계 파이프라인을 통해 동시 작업을 지원하여 데이터 전송과 GPU 계산을 겹치게 한다.
• 소규모 작업에 대해 GPU 데이터 전송의 지연 오버헤드가 성능 향상을 제한하므로, 워크로드 크기에 따라 동적으로 CPU 또는 GPU로 작업을 분배하는 것이 유리하다.
• 향후 APU와 같은 공유 메모리 아키텍처와 같은 하드웨어 트렌드가 복사 오버헤드를 크게 줄이고 GPU 오프로딩의 최소 작업 크기를 낮출 수 있을 것으로 기대된다.