[논문 리뷰] Automated Design Space Exploration of CGRA Processing Element Architectures using Frequent Subgraph Analysis

Jackson Melchert, Kathleen Feng외 6명|arXiv (Cornell University)|2021. 04. 29.

Embedded Systems Design Techniques참고 문헌 16인용 수 5

한 줄 요약

이 논문은 응용 분야에서의 공통적인 계산 패턴을 추출하기 위해 빈도 기반 부분그래프 분석을 사용하여, 군집화 재구성 가능 어레이(CGRA) 처리 요소(PE)의 자동 설계 공간 탐색 프레임워크를 제안한다. 이러한 부분그래프를 융합함으로써 특화된 PE를 생성하며, 기준 PE 대비 최대 10.5배 높은 에너지 효율성과 9.1배 더 작은 면적을 달성하여, 이미지 처리 및 머신러닝 워크로드에서 성능과 효율성을 크게 향상시킨다.

ABSTRACT

The architecture of a coarse-grained reconfigurable array (CGRA) processing element (PE) has a significant effect on the performance and energy efficiency of an application running on the CGRA. This paper presents an automated approach for generating specialized PE architectures for an application or an application domain. Frequent subgraphs mined from a set of applications are merged to form a PE architecture specialized to that application domain. For the image processing and machine learning domains, we generate specialized PEs that are up to 10.5x more energy efficient and consume 9.1x less area than a baseline PE.

연구 동기 및 목표

• 특정 응용 분야에 최적화된 고효율 CGRA PE를 수동으로 설계하는 과제를 해결한다.
• 매우 광범위한 CGRA PE 아키텍처 공간을 탐색하기 위해 필요한 설계 오버헤드와 시간을 줄인다.
• 면적, 에너지, 성능 최적화를 위한 특화된 PE를 자동 생성할 수 있도록 한다.
• 다양한 워크로드 간의 균형을 고려해 일반성과 효율성을 동시에 확보하는 교차 응용 PE 특화를 지원한다.
• 하드웨어 생성과 컴파일러 융합을 하나의 통합적이고 민첩한 툴체인으로 통합하여 종단 간 평가를 가능하게 한다.

제안 방법

• 도메인(예: 이미지 처리 또는 머신러닝)의 대표 응용 프로그램 집합에서 공통적인 계산 부분그래프를 추출하기 위해 빈도 기반 부분그래프 마이닝을 적용한다.
• 가장 빈번한 부분그래프를 융합하여, 대상 응용 프로그램 전반에서 우세한 연산을 지원하는 통합 PE 아키텍처를 설계한다.
• 융합된 부분그래프 구조를 템플릿으로 사용하여 최적화된 산술 단위와 내부 연결 루팅을 갖춘 특화된 PE를 생성한다.
• 특화된 PE, 인터커넥트 및 구성 논리까지 포함한 완전한 CGRA 아키텍처를 자동으로 생성한다.
• 새로운 CGRA에 응용 프로그램을 매핑하기 위해 특화된 PE 명령어 세트를 기반으로 도메인 특화 컴파일러를 자동 생성한다.
• 사이클 정밀 시뮬레이션과 합성 도구를 사용하여 면적, 에너지, 성능 등의 다양한 지표에서 결과 CGRA 설계를 평가한다.

실험 결과

연구 질문

• RQ1 빈도 기반 부분그래프 분석을 통해 도메인 내 응용 프로그램 간의 공통 계산 패턴을 어떻게 식별할 수 있는가?
• RQ2 빈번한 부분그래프를 융합함으로써 여러 응용 프로그램에 걸쳐 효율성과 일반성의 균형을 이루는 PE 아키텍처를 얼마나 잘 설계할 수 있는가?
• RQ3 기본 PE 대비 특화된 PE는 면적과 에너지 효율성에서 얼마나 향상되는가?
• RQ4 응용 프로그램 특화 PE 설계와 교차 응용 PE 설계 간의 성능 및 자원 사용량에서의 차이는 어떠한가?
• RQ5 제안된 프레임워크는 최소한의 수동 작업으로 CGRA와 컴파일러 스택을 생성할 수 있으며, 약 ASIC 수준의 효율성을 달성할 수 있는가?

주요 결과

• 이미지 처리 워크로드에서 특화된 PE는 기준 PE 대비 최대 10.5배 높은 에너지 효율성과 9.1배 더 작은 면적을 달성한다.
• 카메라 파이프라인 응용 프로그램에 특화된 PE는 기준 PE 대비 에너지를 최대 8.3배 줄이고 면적을 3.4배 줄였다.
• 특화된 PE의 최대 동작 주파수는 기준값 1.43 GHz에서 2 GHz로 상승하여 타이밍 및 성능 향상을 시사한다.
• 일반화된 이미지 처리 PE(PE IP)는 네 가지 이미지 처리 응용 프로그램에서 기준값 대비 면적을 29.6–32.5% 감소시키고 에너지를 44.5–65.25% 감소시켰다.
• 특정 응용 프로그램(예: 라플라시안 피라미드)에 특화된 PE는 일반화된 PE IP 대비 면적을 38.6% 감소시키고 에너지를 33.0% 감소시켜 단일 응용 프로그램에 특화된 설계의 이점을 입증한다.
• 머신러닝 워크로드에서는 일반화된 ML PE(PE ML)가 기준값 대비 최대 60.15%의 에너지 절감을 달성했으며, 기준 CGRA 대비 전체 에너지 소비를 22.1% 낮춰 시뮬라(Simba)와 같은 맞춤형 가속기의 효율성에 근접했다.