[논문 리뷰] Accelerating sequential programs using FastFlow and self-offloading

Marco Aldinucci, Marco Danelutto외 3명|arXiv (Cornell University)|2010. 02. 25.

Parallel Computing and Optimization Techniques참고 문헌 16인용 수 7

한 줄 요약

이 논문은 소프트웨어 기반 병렬화 기법인 FastFlow 가속기(FastFlow accelerator)를 소개한다. 이 기법은 잠금 없고 펌웨어 없이 동기화를 사용하여 기존 순차적 C++ 코드를 사용하지 않는 CPU 코어에 자동으로, 반자동으로 오프로드할 수 있도록 한다. FastFlow의 스켈레톤 기반 프로그래밍 모델을 활용함으로써 기존 응용 프로그램에 최소한의 코드 변경으로 고성능을 달성하며, 세밀한 작업에 대해도 정확성과 프로그래머 생산성을 유지하면서 높은 성능을 구현한다.

ABSTRACT

FastFlow is a programming environment specifically targeting cache-coherent shared-memory multi-cores. FastFlow is implemented as a stack of C++ template libraries built on top of lock-free (fence-free) synchronization mechanisms. In this paper we present a further evolution of FastFlow enabling programmers to offload part of their workload on a dynamically created software accelerator running on unused CPUs. The offloaded function can be easily derived from pre-existing sequential code. We emphasize in particular the effective trade-off between human productivity and execution efficiency of the approach.

연구 동기 및 목표

• 현대의 다중 코어 시스템에서 기존 순차적 C++ 응용 프로그램을 최소한의 프로그래머 노력으로 효율적으로 병렬화하는 데 도전하는 것.
• 경량적이고 잠금 없는 동기화 메커니즘을 사용하여 공유 메모리 다중 코어 아키텍처에서 세밀한 작업을 고성능으로 실행하는 것.
• 완전한 아키텍처 재설계 없이도 기존 코드를 가속화할 수 있는 반자동이며 생산성을 유지하는 방법을 제공하는 것.
• 하드웨어 가속기 수준의 성능를 달성할 수 있는 소프트웨어 기반 자가 오프로딩 기법이 존재함을 보여주며, 기존 코드에 광범위하게 적용 가능함을 입증하는 것.
• FastFlow 스켈레톤 프레임워크를 확장함으로써 다중 코어 프로그래밍에서 고수준의 생산성과 저수준의 성능 사이의 격차를 메우는 것.

제안 방법

• FastFlow 가속기는 잠금 없고 펌웨어 없이 동기화되는 기본 원자 연산을 기반으로 한 C++ 템플릿 라이브러리 스택을 사용하여 스레드 세이프하고 고성능의 작업 오프로딩을 가능하게 한다.
• 기존 순차 프로그램의 코드 커널을 사용 중이지 않은 CPU 코어에 동적으로 추가 스레드를 생성함으로써 자가 오프로딩을 구현한다.
• 이 방법은 병렬성 의미 체계를 재사용 가능한 패턴(예: 파이프라인, 팜)으로 봉인한 FastFlow의 스켈레톤 기반 프로그래밍 모델을 활용하여 정확성을 보장한다.
• 기존 코드에 최소한의 수정을 가하여 세밀한 병렬성과 거친 병렬성을 모두 지원하며, 순차 함수를 오프로드 가능한 단위로 감싸서 구현한다.
• 작업 분배 및 동기화를 관리하기 위해 FastFlow 프레임워크와 통합되어 잠금을 피하고 오버헤드를 최소화한다.
• 캐시 일致성 메모리 일관성과 함께 표준 다중 코어 아키텍처(예: x86 및 Power 아키텍처 포함)를 지원한다.

실험 결과

연구 질문

• RQ1 기존 순차적 C++ 응용 프로그램이 최소한의 코드 변경으로 다중 코어 시스템에서 효율적으로 가속화될 수 있는가?
• RQ2 잠금 없는 동기화를 사용한 소프트웨어 기반 자가 오프로딩 접근법이 세밀한 작업을 가속화하는 데 얼마나 효과적인가?
• RQ3 고성능을 달성하면서도 프로그래머 생산성을 얼마나 잘 유지하는가?
• RQ4 기존 코드에 대해 자가 오프로딩의 성능가 기존의 병렬 프로그래밍 모델(예: OpenMP, TBB)과 비교해 볼 때 어떻게 되는가?
• RQ5 임의의 순차 코드를 사용 중이지 않은 CPU 코어에 오프로드할 때 스켈레톤 기반 접근법이 정확성과 확장성을 보장할 수 있는가?

주요 결과

• FastFlow 가속기는 최소한의 코드 수정으로 기존 C++ 응용 프로그램에서 뚜렷한 성능 향상을 이끌어내어 실제 코드에 대한 실용성을 입증한다.
• 잠금 없고 펌웨어 없는 동기화 메커니즘이 세밀한 작업의 효율적 실행을 가능하게 하여 기존 코드에 대한 병렬화 범위를 넓힌다.
• 맨델브로트 집합과 N-퀸 문제 해결기에서의 실험 결과는 대표적인 계산 집약적 워크로드에서 측정 가능한 성능 향상을 입증하며, 이는 접근법의 타당성을 검증한다.
• 이 기법은 기존 코드베이스에 원활하게 통합되며, 전체 아키텍처 재설계나 프레임워크 이관이 필요 없음을 보여준다.
• 세밀한 병렬성 요구 사항이 있는 시나리오에서 오프로드 오버헤드가 낮아 OpenMP나 TBB와 같은 기존 모델보다 성능 면에서 뛰어나다.
• 스켈레톤 기반 조합을 통해 정확성을 유지하여 예측 가능하고 검증 가능한 병렬 의미 체계를 보장한다.