[논문 리뷰] ELZAR: Triple Modular Redundancy using Intel Advanced Vector Extensions Technical Report

Dmitrii Kuvaiskii, Oleksii Oleksenko외 3명|arXiv (Cornell University)|2016. 01. 01.

Radiation Effects in Electronics참고 문헌 28인용 수 3

한 줄 요약

ELZAR는 Intel AVX 명령어를 사용하여 지침이 아닌 AVX 레지스터에 데이터를 복제함으로써 고장 내성에 적합한 삼중 모듈러 중복을 구현하는 컴파일러 프레임워크이다. SIMD 병렬 처리를 활용하고 있음에도 불구하고 제어 흐름 및 메모리 접근을 위한 AVX 명령어가 부족하여 성능 오버헤드가 높으며, 향후 AVX 확장 기능으로 벡터화된 gather/scatter 및 플래그 전환 비교 기능이 추가될 경우 오직 48%로 오버헤드가 감소할 것으로 추정된다.

ABSTRACT

Instruction-Level Redundancy (ILR) is a well-known approach to tolerate transient CPU faults. It replicates instructions in a program and inserts periodic checks to detect and correct CPU faults using majority voting, which essentially requires three copies of each instruction and leads to high performance overheads. As SIMD technology can operate simultaneously on several copies of the data, it appears to be a good candidate for decreasing these overheads. To verify this hypothesis, we propose Elzar, a compiler framework that transforms unmodified multithreaded applications to support triple modular redundancy using Intel AVX extensions for vectorization. Our experience with several benchmark suites and real-world case-studies yields mixed results: while SIMD may be beneficial for some workloads, e.g., CPU-intensive ones with many floating-point operations, it exhibits higher overhead than ILR in many applications we tested. We study the sources of overheads and discuss possible improvements to Intel AVX that would lead to better performance.

연구 동기 및 목표

• Intel AVX와 같은 SIMD 명령어가 일시적 고장 내성에 적합한 지침 수준 중복(ILR)에서 성능 오버헤드를 줄일 수 있는지 조사하기 위해.
• AVX 레지스터를 사용해 데이터를 복제하여 다수결 기반 고장 탐지 및 수정이 가능한지 평가하기 위해.
• 현재 AVX 명령어 세트가 ILR에 적용되었을 때의 주요 성능 저하 요인을 규명하기 위해.
• ELZAR의 성능 오버헤드를 크게 줄일 수 있는 AVX의 하드웨어 확장 기능을 제안하기 위해.

제안 방법

• LLVM을 컴파일러 백엔드로 사용하여 수정되지 않은 다중 스레드 애플리케이션을 AVX 기반 삼중 모듈러 중복으로 변환하기 위해.
• 다수결을 통한 고장 탐지 및 수정을 가능하게 하기 위해 데이터를 네 개의 256비트 AVX 레지스터에 복제하기 위해.
• 기존 AVX 명령어(예: vperm, vblend 등)를 사용해 제어 흐름 및 메모리 접근 작업을 시뮬레이션하는 워퍼 함수를 구현하기 위해.
• 로드/스토어 검사 기능을 FPGA로 이관하여 CPU 오버헤드를 줄이기 위해.
• ELZAR와 실제 오버헤드를 모방한 덜 성능이 좋은 네이티브 버전(더미 인-line 어셈블리 포함)을 비교하여 성능을 평가하기 위해.
• 제안된 AVX 확장 기능(예: 벡터화된 gather/scatter, 플래그 전환 비교 등)을 모델링하여 향후 성능 향상 정도를 추정하기 위해.

실험 결과

연구 질문

• RQ1 AVX 기반 데이터 복제가 일시적 고장 내성에 적합한 전통적 ILR 대비 낮은 성능 오버헤드를 달성할 수 있는가?
• RQ2 현재 AVX 명령어 세트를 ILR에 적용했을 때 주요 성능 저하 요인은 무엇인가?
• RQ3 메모리 접근 및 제어 흐름을 위한 새로운 명령어가 AVX에 추가될 경우 성능 향상은 어느 정도 기대할 수 있는가?
• RQ4 ELZAR에서 검사 기능을 FPGA로 이관할 경우 CPU 오버헤드는 얼마나 줄어들 수 있는가?
• RQ5 어떤 특정 AVX 명령어 세트 확장 기능이 ELZAR의 성능 오버헤드를 가장 효과적으로 줄일 수 있는가?

주요 결과

• ELZAR는 네 개의 AVX 레지스터에 데이터를 복제함으로써 다수결을 통해 일시적 CPU 고장을 탐지하고 수정함으로써 고장을 견딜 수 있도록 한다.
• SIMD 병렬 처리를 활용하고 있음에도 불구하고 현재 AVX는 제어 흐름 및 메모리 접근을 위한 핵심 명령어가 부족하여 높은 성능 오버헤드가 발생한다.
• 현재 AVX를 사용한 ELZAR의 성능 오버헤드는 예상보다 크게 높으며, 많은 벤치마크에서 평균 오버헤드가 100%를 초과한다.
• 제안된 AVX 확장 기능(예: 벡터화된 gather/scatter, 플래그 전환 비교 등)이 적용될 경우 ELZAR의 오버헤드는 약 48%로 감소할 것으로 추정된다.
• 실험 결과에서 스트링 매칭 벤치마크는 네이티브 버전보다 빠르게 실행되었는데, 이는 '덜 성능이 좋은 네이티브 버전'에서 의도치 않은 인라인 최적화가 발생했기 때문일 가능성이 높다.
• 이 연구는 단순하고 타겟된 AVX 명령어 세트 확장 기능이 SIMD 기반 ILR를 전통적 ILR의 대안으로 삼을 수 있도록 만들 수 있음을 결론 내린다.