[논문 리뷰] Communication-avoiding micro-architecture to compute Xcorr scores for peptide identification

Sumesh Kumar, Fahad Saeed|arXiv (Cornell University)|2021. 07. 31.

Advanced Proteomics Techniques and Applications참고 문헌 21인용 수 2

한 줄 요약

이 논문은 실험 스펙트럼을 片上 블록 램에 캐시하고, 맞춤형 펩타이드 브로드캐스트 버스를 사용하여 양면 데이터 재사용을 가능하게 함으로써 펩타이드 식별을 위한 Xcorr 점수 계산을 가속화하는 통신 회피형 마이크로아키텍처를 제안한다. 이 설계는 DRAM 액세스를 600배 감소시키고, 16GB 메모리와 3.6GHz 인텔 i7-4970 프로세서를 사용하는 CPU 기반 Crux 구현 대비 24배의 성능 향상을 달성한다.

ABSTRACT

Database algorithms play a crucial part in systems biology studies by identifying proteins from mass spectrometry data. Many of these database search algorithms incur huge computational costs by computing similarity scores for each pair of sparse experimental spectrum and candidate theoretical spectrum vectors. Modern MS instrumentation techniques which are capable of generating high-resolution spectrometry data require comparison against an enormous search space, further emphasizing the need of efficient accelerators. Recent research has shown that the overall cost of scoring, and deducing peptides is dominated by the communication costs between different hierarchies of memory and processing units. However, these communication costs are seldom considered in accelerator-based architectures leading to inefficient DRAM accesses, and poor data-utilization due to irregular memory access patterns. In this paper, we propose a novel communication-avoiding micro-architecture to compute cross-correlation based similarity score by utilizing efficient local cache, and peptide pre-fetching to minimize DRAM accesses, and a custom-designed peptide broadcast bus to allow input reuse. An efficient bus arbitration scheme was designed, and implemented to minimize synchronization cost and exploit parallelism of processing elements. Our simulation results show that the proposed micro-architecture performs on average 24x better than a CPU implementation running on a 3.6 GHz Intel i7-4970 processor with 16GB memory.

연구 동기 및 목표

• 질량 분석 기반 단백질체학에서 메모리 계층 간의 높은 통신 비용 문제를 해결하기 위해.
• 전체 실험 스펙트럼을 캐시하여 DRAM 액세스를 최소화하고 입력 재사용을 효율적으로 구현하기 위해.
• 동기화 오버헤드를 줄이고 병렬 처리의 성능을 향상시키기 위해 맞춤형 펩타이드 브로드캐스트 버스 및 버스 할당 제어 기법을 설계하기 위해.
• 특히 메모리 기반 워크로드에서 CPU 기반 구현체인 Crux에 비해 뚜렷한 성능 향상을 달성하기 위해.
• SEQUEST의 核심이 되는 메모리 집약적인 내적 곱 계산을 가속화하는 데 있어 확장성과 효율성을 입증하기 위해.

제안 방법

• 전체 실험 스펙트럼을 캐시하기 위해 2kB 블록 램 캐시를 구현하여 중복된 DRAM 액세스를 감소시켰다.
• 입력 국소성 향상을 위해 펩타이드 데이터베이스를 사전에 정렬하여 이진 탐색과 후행 로딩을 가능하게 하였다.
• 모든 처리 요소가 동일한 펩타이드 데이터를 반복적인 메모리 액세스 없이 재사용할 수 있도록 전용 펩타이드 브로드캐스트 버스를 설계하였다.
• 처리 요소 간의 동기화 지연을 최소화하기 위해 선도우선순서(FCFS) 버스 할당 기법을 적용하였다.
• 주 프로세서와의 데이터 전송을 위해 PCIe DMA를 통한 메인 메모리에서 FPGA 외부 메모리로의 데이터 이동을 통합하였다.
• 모든 수준에서 데이터 이동을 최소화하고 데이터 재사용을 극대화함으로써 내적 곱 계산 최적화를 수행하였다.

실험 결과

연구 질문

• RQ1 맞춤형 마이크로아키텍처가 펩타이드 식별을 위한 Xcorr 점수 계산에서 DRAM 액세스 오버헤드를 줄일 수 있는가?
• RQ2 실험 스펙트럼을 片상 캐시하는 것이 메모리 기반 단백질체학 워크로드에서 통신 비용을 최소화하는 데 얼마나 효과적인가?
• RQ3 전용 펩타이드 브로드캐스트 버스가 병렬 처리 시 펩타이드 후보의 데이터 재사용과 동기화 오버헤드 감소에 얼마나 기여하는가?
• RQ4 캐시 크기와 처리 요소 수의 변화가 통신 및 계산 병목 현상에 미치는 영향은 어떠한가?
• RQ5 제안된 아키텍처는 Crux와 같은 CPU 기반 소프트웨어에 비해 뚜렷한 성능 향상을 달성하면서도 확장성은 유지할 수 있는가?

주요 결과

• 제안된 마이크로아키텍처는 16GB 메모리와 3.6GHz 인텔 i7-4970 프로세서에서 실행되는 Crux 기반 CPU 대비 평균 24배의 성능 향상을 달성한다.
• 2kB 片상 캐시는 캐시 없음 방식 대비 평균 DRAM 액세스 횟수를 600배 감소시킨다.
• 처리 요소당 평균 I/O 시간은 512B 캐시 시 1.01초에서 2kB 캐시 시 0.86ms로 감소하여 1170배 향상되었다.
• 캐시 크기가 2kB 이하일 경우 처리 요소 수가 증가함에 따라 동기화 대기 시간이 지수적으로 증가하지만, 2kB 및 4kB 캐시에서는 2.2ms로 안정적으로 유지된다.
• 처리 요소 수가 16개 이하일 동안 거의 선형적인 성능 향상을 보이며, 처리 요소 수가 증가함에 따라 총 처리 시간이 감소한다.
• 32개의 처리 요소까지도 일관된 성능 향상을 보이며, 다양한 정밀 질량 윈도우 허용 오차 범위에서도 확장성과 효율성을 입증하였다.