홍석인 교수

최근 심층신경망의 파라미터 수가 증가함에 따라, 심층신경망 연산을 처리하기 위한 신경망 처리장치는 더 많은 메모리 용량과 대역폭을 요구한다. 기존 신경망 처리장치는 오프칩 메모리로 DRAM을 주로 사용한다. DRAM은 무어의 법칙이 종료된 현재 지속적으로 소형화하는 것에 한계가 있다. 따라서, 증가하는 메모리 요구사항에 맞추어 대용량의 오프칩 메모리를 확보하기 위해서는 DRAM이 아닌 다른 메모리 기술을 기반으로 오프칩 메모리를 구성하는 대안을 고려하여야 한다. 차세대 메모리 소자들은 대체로 DRAM 대비 높은 bit density를 가지는 이점이 있다. 그러나 이러한 기술들은 DRAM에 비해 대역폭과 레이턴시 특성이 좋지 못한 경우가 많다. 따라서 차세대 메모리 소자를 적용한 신경망 처리장치를 설계하기에 앞서 성능과 면적 두 가지 면에서 면밀한 분석이 이루어져야 한다. 본 논문에서는 시뮬레이션을 통해 다양한 메모리 소자의 성능 및 면적 대비 성능을 분석한다.

본 논문에서는 HPC 시스템의 에너지 효율을 향상시키기 위해 Event-driven Uncore Frequency Scaler (eUFS)라는 새로운 전력관리 메커니즘을 제안한다. eUFS는 LAPI (LLC accesses Per Instructions) 및 CPI (Clock Cycles Per Instruction)와 같은 하드웨어 이벤트를 활용하여 언코어 주파수를 동적으로 조정한다. 기준 시간을 주기로 해당 하드웨어 이벤트를 취합하고, 취합한 이벤트와이전 언코어 주파수를 이용해 목표 언코어 주파수를 결정한다. NPB 벤치마크를 사용한 실험을 통해 본 논문에서 제안하는 UFS 메커니즘은 C/D class NPB 벤치마크에 대해 평균 6%의 에너지 소비를 감소시키는 것으로 확인되었고 실행시간 증가는 평균 2% 수준인 것으로 확인되었다.