[논문 리뷰] GPU-Accelerated BWT Construction for Large Collection of Short Reads

Chi-Man Liu, Ruibang Luo외 1명|arXiv (Cornell University)|2014. 01. 29.

Algorithms and Data Compression참고 문헌 16인용 수 28

한 줄 요약

이 논문은 대량의 짧은 DNA 리드 컬렉션의 Burrows-Wheeler Transform(BWT)를 구축하기 위한 GPU 가속 방법인 CX1을 제안한다. 이 방법은 GPU 병렬 처리, 다중 코어 CPU 스레딩, 클러스터 기반 분산 컴퓨팅을 활용한다. CX1은 단일 머신(4코어 CPU + GPU)에서 100GB의 짧은 리드 BWT를 2시간 이내에 구축하며, 4노드 GPU 클러스터에서는 43분 이내로 완료하여 I/O 오버헤드를 제외한 후 최대 3.72배의 성능 향상을 달성한다. 이는 이전 도구인 BRC 및 GPU 최적화 BWT 구축 방법보다 뚜렷이 뛰어나다.

ABSTRACT

Advances in DNA sequencing technology have stimulated the development of algorithms and tools for processing very large collections of short strings (reads). Short-read alignment and assembly are among the most well-studied problems. Many state-of-the-art aligners, at their core, have used the Burrows-Wheeler transform (BWT) as a main-memory index of a reference genome (typical example, NCBI human genome). Recently, BWT has also found its use in string-graph assembly, for indexing the reads (i.e., raw data from DNA sequencers). In a typical data set, the volume of reads is tens of times of the sequenced genome and can be up to 100 Gigabases. Note that a reference genome is relatively stable and computing the index is not a frequent task. For reads, the index has to computed from scratch for each given input. The ability of efficient BWT construction becomes a much bigger concern than before. In this paper, we present a practical method called CX1 for constructing the BWT of very large string collections. CX1 is the first tool that can take advantage of the parallelism given by a graphics processing unit (GPU, a relative cheap device providing a thousand or more primitive cores), as well as simultaneously the parallelism from a multi-core CPU and more interestingly, from a cluster of GPU-enabled nodes. Using CX1, the BWT of a short-read collection of up to 100 Gigabases can be constructed in less than 2 hours using a machine equipped with a quad-core CPU and a GPU, or in about 43 minutes using a cluster with 4 such machines (the speedup is almost linear after excluding the first 16 minutes for loading the reads from the hard disk). The previously fastest tool BRC is measured to take 12 hours to process 100 Gigabases on one machine; it is non-trivial how BRC can be parallelized to take advantage a cluster of machines, let alone GPUs.

연구 동기 및 목표

• 데노보 게놈 어셈블리 및 오류 보정에 사용되는 대규모 짧은 리드 컬렉션의 BWT 구축에서 발생하는 증가하는 계산 병목 현상을 해결하기 위해.
• GPU의 막대한 병렬 처리 능력, 다중 코어 CPU 스레딩, 분산 클러스터를 활용해 CPU 전용 도구의 한계를 초월한 BWT 구축을 가속화하기 위해.
• 동적이고 대규모의 리드 데이터를 반복적으로 BWT 색인화가 필요한 생정보학 파이프라인을 위한 확장 가능하고 비용 효율적인 솔루션을 제공하기 위해.

제안 방법

• CX1은 GPU 기반의 서피스 정렬과 CPU 기반의 멀티스레드 처리, GPU가 장착된 클러스터 노드 간의 분산 I/O를 조합한 하이브리드 접근 방식을 사용한다.
• 알고리즘은 입력 리드 컬렉션을 청크 단위로 분할하여 GPU에서 병렬 처리하며, 청크 간 동기화는 CPU 스레드가 관리한다.
• 읽기들을 접두사 기준으로 그룹화한 후 각 그룹에 대해 GPU 기반의 서피스 어레이 구축을 적용하는 다단계 정렬 전략을 적용한다.
• 메모리 사용량은 조정 가능한 파라미터 $m_2$를 통해 제어할 수 있어 성능과 메모리 사용량 간의 트레이드오프를 가능하게 한다.
• 다중 GPU 노드 간 동적 로드 밸런싱을 지원하며, 데이터 압축 및 SSD 최적화 입력 분포를 통해 I/O 병목 현상을 최소화한다.
• CX1은 기존의 스트링 그래프 어셈블러와 통합 가능하며, BWT의 본질적 구조를 활용해 효율적인 k-mer 카운팅을 통해 오류 보정을 지원한다.

실험 결과

연구 질문

• RQ1 CPU 전용 방법 대비 GPU 가속을 통해 대규모 짧은 리드 컬렉션의 BWT 구축에 소요되는 시간을 크게 줄일 수 있는가?
• RQ2 클러스터 내 다수의 GPU 기반 노드에서 GPU 기반 BWT 구축의 성능은 어떻게 스케일링되는가?
• RQ3 더 긴 리드를 처리할 경우 이 방법의 효율성은 어떻게 유지되며, 기존 도구와의 읽기 길이 민감도 측면에서 어떻게 비교되는가?
• RQ4 I/O 및 데이터 로딩 오버헤드를 고려한 후 분산 환경에서 근사 선형 성능 향상을 달성할 수 있는가?
• RQ5 사용 가능한 GPU 또는 메인 메모리가 제한된 상황에서 메모리 사용량과 성능의 트레이드오프는 어떻게 행동하는가?

주요 결과

• CX1은 4코어 CPU와 GPU가 탑재된 단일 머신에서 100GB의 짧은 리드(10억 개의 100bp 리드) BWT를 2시간 이내에 구축하며, 이는 이전까지 가장 빠른 도구인 BRC 대비 20배 향상된 성능이다.
• 4노드 GPU 클러스터에서는 동일한 작업을 43분 내로 완료하였으며, I/O 오버헤드를 제외한 후 3.72배의 성능 향상을 기록하여 근사 선형 확장성을 입증했다.
• 10억 개의 리드에 대해, 단일 노드에서는 6,886초에서 4노드에서는 1,580초로 구축 시간이 감소하여 강력한 병렬 효율성을 보였다.
• BRC에 비해 CX1은 더 긴 리드에 덜 민감하다: 400bp 리드 처리에 대해 BRC는 290% 더 많은 시간이 소요되는 반면, CX1은 125%만 증가한다.
• 파라미터 $m_2$를 조정함으로써 메모리 사용량을 45GB에서 16GB로 줄일 수 있었으며, 1억 개 리드 세트에 대해 런타임이 126초만 증가하는 데 그쳤다.
• 대규모 데이터셋에 대해 더 많은 CPU 코어를 활용할수록 성능 향상이 효과적으로 이루어지며, 이는 CPU 메모리 액세스가 주요 병목이 되기 때문이다. 이는 향후 성능 향상을 위해 더 많은 작업을 GPU로 이관하는 데에 초점이 맞춰져야 한다는 것을 시사한다.