[논문 리뷰] A Survey on Approximate Multiplier Designs for Energy Efficiency: From Algorithms to Circuits

Ying Wu, Chuangtao Chen외 7명|arXiv (Cornell University)|2023. 01. 28.

Low-power high-performance VLSI design인용 수 4

한 줄 요약

이 종합적 서베이는 에너지 효율성을 높이기 위한 IoT 엣지 장치에서의 근사 승산기 설계에 대해 알고리즘, 아키텍처, 회로 수준에서 종합적으로 분석한다. 로그 기반, 선형화 기반, 하이브리드 근사 기법을 평가하여 선형화 기법이 낮은 오차로 높은 에너지 절감 효과를 보이며, 게이트 프루닝 및 전압 스케일링과 같은 회로 수준 최적화는 머신러닝과 같은 응용 분야에서 정확도 손실을 통제하면서 효율성을 더욱 향상시킴을 보여준다.

ABSTRACT

Given the stringent requirements of energy efficiency for Internet-of-Things edge devices, approximate multipliers, as a basic component of many processors and accelerators, have been constantly proposed and studied for decades, especially in error-resilient applications. The computation error and energy efficiency largely depend on how and where the approximation is introduced into a design. Thus, this article aims to provide a comprehensive review of the approximation techniques in multiplier designs ranging from algorithms and architectures to circuits. We have implemented representative approximate multiplier designs in each category to understand the impact of the design techniques on accuracy and efficiency. The designs can then be effectively deployed in high-level applications, such as machine learning, to gain energy efficiency at the cost of slight accuracy loss.

연구 동기 및 목표

• 에너지 제약이 있는 IoT 엣지 장치에서 알고리즘, 아키텍처, 회로 수준의 근사 승산기 기법을 체계적으로 검토하는 것.
• 다양한 근사 기법에서 정확도, 에너지 효율성, 하드웨어 비용 간의 상호 상충 관계를 평가하는 것.
• 최적의 성능을 얻기 위해 근사 알고리즘과 기반 승산기 회로 간의 설계 공간 상호작용을 규명하는 것.
• 오차 지표와 합성 모드에 대한 민감도를 분석하여 응용 분야별로 근사 승산기를 선택하는 데 도움을 주는 것.

제안 방법

• 알고리즘 수준(로그 기반, 선형화 기반, 하이브리드), 아키텍처 수준(절삭, 부분 곱의 수정, 근사 압축기), 회로 수준(게이트 프루닝, 부울 재작성, 전압 스케일링) 기반의 근사 승산기 기법을 분류하는 것.
• 각 범주에서 대표적인 설계를 구현하여 일반 벤치마크와 머신러닝 워크로드를 활용해 정확도와 에너지 효율성을 평가하는 것.
• 다양한 근사 수준에서 평균 오차, 최대 상대 오차(MRED), 정규화된 평균 오차 거리(NMED)와 같은 오차 특성 분석.
• 알고리즘 수준의 근사와 회로 수준의 구현 간 상호작용, 특히 오차 분포 및 오차 편향 제어에 대한 연구.
• 합성 모드가 회로 면적과 성능에 미치는 영향을 평가하여 실세계 적용 가능성 분석.
• 머신러닝 및 이미지 처리에서의 응용 수준 평가를 통해 에너지 절감 효과와 정확도 상실 간의 상호 관계를 검증하는 것.

실험 결과

연구 질문

• RQ1 로그 기반, 선형화 기반, 하이브리드 기반의 다양한 알고리즘 접근 방식이 에너지 효율성과 오차 특성 측면에서 어떻게 비교되는가?
• RQ2 아키텍처 수준의 절삭 및 부분 곱 조작이 근사 승산기의 정확도와 하드웨어 비용에 어떤 영향을 미치는가?
• RQ3 게이트 프루닝 및 전압 스케일링과 같은 회로 수준 기법이 에너지 효율성과 오차 분포에 어떤 영향을 미치는가?
• RQ4 머신러닝과 같은 특정 응용 분야에 적합한 근사 승산기 선택에 영향을 미치는 주요 요인은 무엇인가?
• RQ5 합성 모드의 선택이 근사 승산기 설계의 성능과 면적에 어떤 영향을 미치는가?

주요 결과

• 선형화 기반 근사는 낮은 오차와 영점 평균 오차 분포를 보이며 높은 에너지 절감 및 면적 절감 효과를 달성하여 오차에 관용 가능한 응용 분야에 매우 적합하다.
• 로그 기반 승산기는 뚜렷한 하드웨어 절감 효과를 보이지만 일방적인 오차를 야기한다; 반복적 버전은 편향을 감소시키지만 하드웨어 복잡도가 증가하는 대가가 따른다.
• 절삭 기반 아키텍처 기법은 면적과 지연 시간을 줄이지만, 고정소수점 산술에서 작은 피연산자에 대해 큰 상대 오차를 유발할 수 있다.
• 부분 곱 감소 트리에 근사 압축기를 사용하면 에너지 효율성이 향상되지만, 최적의 배치 및 순서 정하는 것은 여전히 도전 과제이다.
• 게이트 프루닝 및 전압 스케일링과 같은 회로 수준 최적화는 에너지 소비를 효과적으로 줄이지만, 주요 경로(MSB)에서의 타이밍 위반은 무시할 수 없는 오차를 유발할 수 있다.
• 응용 수준 평가 결과, 근사 정도의 강도, 오차 편향, 알고리즘에 대한 적합도가 성능에 큰 영향을 미치며, 이는 MRED 및 NMED와 같은 기본 오차 지표를 넘어서 선택 기준을 설정해야 함을 시사한다.