[논문 리뷰] Basic Parallel and Distributed Computing Curriculum

Claude Tadonki|arXiv (Cornell University)|2018. 02. 12.

Distributed and Parallel Computing Systems참고 문헌 15인용 수 3

한 줄 요약

이 논문은 컴퓨터 과학 및 공학 분야에서 다중 코어 및 이질적 아키텍처의 확산으로 인해 증가하는 병렬 프로그래밍 역량에 대한 수요를 충족시키기 위해, 병렬 및 분산 컴퓨팅(PDC)에 대한 체계적이고 학부 수준의 커리큘럼을 제안한다. 핵심 개념인 의존성 분석, 스케줄링, 그리고 MPI, OpenMP, Pthreads와 같은 프로그래밍 모델을 포함한 교육적 프레임워크를 제시하며, 성능 평가 및 디버깅을 통합한다. 주요 기여는 전문가가 아닌 학부생들이 접근 가능한 확장 가능한 교육적 길을 제공하는 데 있다.

ABSTRACT

With the advent of multi-core processors and their fast expansion, it is quite clear that {\em parallel computing} is now a genuine requirement in Computer Science and Engineering (and related) curriculum. In addition to the pervasiveness of parallel computing devices, we should take into account the fact that there are lot of existing softwares that are implemented in the sequential mode, and thus need to be adapted for a parallel execution. Therefore, it is required to the programmer to be able to design parallel programs and also to have some skills in moving from a given sequential code to the corresponding parallel code. In this paper, we present a basic educational scenario on how to give a consistent and efficient background in parallel computing to ordinary computer scientists and engineers.

연구 동기 및 목표

• 다중 코어 및 이질적 아키텍처의 확산으로 인해 표준 컴퓨터 과학 및 공학 커리큘럼에서 병렬 컴퓨팅 교육의 필요성이 증가하고 있으므로 이를 해결한다.
• 이전에 PDC를 가르치는 데 있어 관성가 있었음을 극복하기 위해, 비전문가 학부생들이 활용할 수 있는 체계적이고 접근 가능한 커리큘럼을 제공한다.
• 순차적 프로그래밍과 병렬 실행 간의 격차를 메우기 위해, 순차적 코드에서 병렬 코드로의 변환 방법을 가르친다.
• 성능 분 析, 디버깅, PDC 교육을 위한 시뮬레이터 및 도구의 사용에 기초한 기초 역량을 학생들에게 제공한다.

제안 방법

• 주제 모듈로 구성된 강의 구조를 제안: 일반적 소개, 계산 모델, 공유 메모리 및 분산 메모리 패러다임, 지시어 수준 병렬성, 성능 평가.
• 작업 그래프와 재귀 방정식과 같은 형식적 방법을 사용하여 데이터 의존성, 동기화, 스케줄링과 같은 핵심 개념을 소개한다.
• MPI를 통한 메시지 전달, OpenMP 및 Pthreads를 통한 스레드 수준 병렬성, SSE를 통한 SIMD를 포함한 널리 사용되는 프로그래밍 모델을 중심으로 하되, 깊이 있는 구현 세부 사항은 생략한다.
• 병렬 프로그램의 평가 및 최적화를 위해 성능 측정, 디버깅, 프로파일링 기법을 통합한다.
• 특히 고성능 하드웨어에 직접 접근할 수 없는 학생들을 위해, 시뮬레이터 및 가상화 도구의 사용을 권장한다.
• 학습의 체계적 일관성과 학부 수준에 적합한 깊이를 확보하기 위해 커리큘럼 내용을 세 가지 주제 그룹으로 분류한다.

실험 결과

연구 질문

• RQ1 어떻게 병렬 및 분산 컴퓨팅을 표준 학부 컴퓨터 과학 및 공학 커리큘럼에 효과적으로 통합할 수 있는가?
• RQ2 학부 수준에서 접근 가능하고 기초적인 PDC 과정을 위해 필수적인 핵심 개념과 프로그래밍 모델은 무엇인가?
• RQ3 의존성 분석과 스케줄링은 어떻게 가르쳐 병렬성 이해와 최적화를 돕는가?
• RQ4 성능 평가, 디버깅, 시뮬레이션 도구는 PDC 교육을 실용적이고 효과적으로 만드는 데 어떤 역할을 하는가?
• RQ5 비전문가 학생들에게 순차적 프로그래밍에서 병렬 프로그래밍으로의 전환을 체계적으로 어떻게 가르칠 수 있는가?

주요 결과

• 다중 코어 및 이질적 프로세서의 광범위한 도입으로 인해 병렬 및 분산 컴퓨팅은 학부 수준에서 반드시 교육되어야 한다.
• 모델, 프로그래밍 패러다임, 성능 분석, 도구 사용을 통합한 체계적 커리큘럼은 학생들이 중급 수준의 병렬 프로그램을 설계할 수 있도록 한다.
• 의존성 분석과 스케줄링는 병렬성의 식별과 병렬 응용 프로그램에서의 성능 저하 방지를 위해 필수적이다.
• MPI, OpenMP, Pthreads와 같은 기존 모델과 시뮬레이터의 사용은 실용적인 병렬 프로그래밍 교육을 위한 효과적인 길이다.
• 성능 측정 및 디버깅 도구는 학생들이 병렬 구현을 평가하고 개선하는 데 필수적이다.
• 시뮬레이터 및 가상화 도구는 물리적 하드웨어 접근이 제한된 경우에 특히 학습을 크게 향상시킬 수 있다.