[논문 리뷰] Renewing computing paradigms for more efficient parallelization of single-threads

János Végh|arXiv (Cornell University)|2018. 02. 22.

Parallel Computing and Optimization Techniques참고 문헌 24인용 수 3

한 줄 요약

이 논문은 단일 스레드 성능의 정체를 극복하기 위해 von Neumann 아키텍처를 재고함으로써 계산 패러다임의 근본적인 재설계를 제안한다. 아키텍처적 및 소프트웨어 스택 혁신을 통해 더 높은 처리량, 간소화된 하드웨어, 향상된 실시간 동작을 가능하게 하는 확장된 계산 모델을 도입함으로써, 기존의 다중 코어 확장에 의존하지 않고 단일 스레드 워크로드의 병렬화를 더 효율적으로 수행할 수 있는 길을 제시한다.

ABSTRACT

Computing is still based on the 70-years old paradigms introduced by von Neumann. The need for more performant, comfortable and safe computing forced to develop and utilize several tricks both in hardware and software. Till now technology enabled to increase performance without changing the basic computing paradigms. The recent stalling of single-threaded computing performance, however, requires to redesign computing to be able to provide the expected performance. To do so, the computing paradigms themselves must be scrutinized. The limitations caused by the too restrictive interpretation of the computing paradigms are demonstrated, an extended computing paradigm introduced, ideas about changing elements of the computing stack suggested, some implementation details of both hardware and software discussed. The resulting new computing stack offers considerably higher computing throughput, simplified hardware architecture, drastically improved real-time behavior and in general, simplified and more efficient computing stack.

연구 동기 및 목표

• 수십 년에 걸친 하드웨어 발전에도 불구하고 단일 스레드 성능의 정체를 해결하기 위해.
• 전통적인 von Neumann 계산 패러다임에 대한 엄격한 해석이 초래하는 제약을 규명하기 위해.
• 단일 스레드 워크로드의 더 효율적인 병렬화를 가능하게 하는 재정의된 계산 모델을 제안하기 위해.
• 처리량과 실시간 반응성 향상을 위해 계산 스택의 하드웨어 및 소프트웨어 구성 요소를 재설계하기 위해.
• 패러다임 전환이 더 단순하고 효율적이며 고성능인 계산 시스템을 가능하게 할 수 있음을 보여주기 위해.

제안 방법

• 명령어 실행을 엄격한 순차적 제어 흐름에서 분리하는 확장된 계산 패러다임 도입.
• 단일 스레드 실행 모델 내에서 다수의 독립적인 계산 스트림을 처리하는 프로세서의 역할 재정의.
• 기존의 스레드 관리 없이도 세밀하고 예측 가능한 실행을 지원하는 하드웨어 추상화 제안.
• 응용 프로그램 수준에서 명시적이고 경량의 계산 추상화를 통해 병렬성을 노출하는 소프트웨어 스택 설계.
• 계산 단위 간 메시지 전달 모델을 활용하여 데이터 플로우 기반 실행을 가능하게 하고 동기화 오버헤드를 감소.
• 캐시 일관성 복잡성을 줄이고 데이터 국소성을 향상시키기 위해 단순화된 메모리 모델 구현.

실험 결과

연구 질문

• RQ1 클럭 속도나 코어 수 증가에 의존하지 않고 단일 스레드 성능을 효과적으로 재활성화할 수 있는가?
• RQ2 단일 스레드 워크로드의 효율적 병렬화를 위해 필요한 아키텍처적 및 소프트웨어적 변화는 무엇인가?
• RQ3 재정의된 계산 패러다임이 하드웨어 복잡성을 줄이면서 처리량과 실시간 동작을 얼마나 향상시킬 수 있는가?
• RQ4 기존 von Neumann 제약을 어떻게 완화하여 더 유연하고 확장 가능한 실행 모델을 가능하게 할 수 있는가?
• RQ5 스레드 기반 실행에서 데이터 플로우 기반 실행으로의 전환은 시스템 성능과 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 제안된 패러다임은 기존 단일 스레드 실행 대비 현저히 높은 처리량을 달성할 수 있다.
• 복잡한 캐시 일관성 및 스레드 스케줄링 메커니즘의 제거로 인해 하드웨어 복잡성이 극적으로 감소한다.
• 계산 단위의 예측 가능하고 저지연 실행 덕분에 실시간 동작이 크게 향상된다.
• 공유 상태와 동기화 원자성에 대한 의존도를 줄임으로써 소프트웨어 개발과 시스템 검증이 간소화된다.
• 응용 프로그램 수준의 스레딩이 필요 없이도 단일 스레드 코드의 효율적이고 세밀한 병렬화가 가능하다.
• 성능 향상과 자원 오버헤드 감소를 보여주는 구현 세부 사항을 통해 이 접근 방식의 실현 가능성이 입증된다.