[논문 리뷰] Hyperdimensional Computing Nanosystem

Abbas Rahimi, Tony F. Wu외 5명|arXiv (Cornell University)|2018. 11. 23.

Ferroelectric and Negative Capacitance Devices참고 문헌 40인용 수 4

한 줄 요약

이 논문은 탄소 나노튜브 FET(CNFET)와 저항성 RAM(RRAM)을 통합한 단일 3D 나노시스템을 제시하여 에너지 효율적이고 고장 내성 있는 기계학습을 위한 초차원(HD) 계산을 실현한다. 시스템은 각 언어당 하나의 학습 샘플만으로 21개 언어를 분류하는 데 98%의 정확도를 달성했으며, 하드웨어 비트 오류 비율이 78%임에도 불구하고 여전히 98%의 정확도를 유지하여 CMOS 대비 최대 420배의 에너지 효율성과 25배의 면적 감소를 입증하였다.

ABSTRACT

One viable solution for continuous reduction in energy-per-operation is to rethink functionality to cope with uncertainty by adopting computational approaches that are inherently robust to uncertainty. It requires a novel look at data representations, associated operations, and circuits, and at materials and substrates that enable them. 3D integrated nanotechnologies combined with novel brain-inspired computational paradigms that support fast learning and fault tolerance could lead the way. Recognizing the very size of the brain's circuits, hyperdimensional (HD) computing can model neural activity patterns with points in a HD space, that is, with hypervectors as large randomly generated patterns. At its very core, HD computing is about manipulating and comparing these patterns inside memory. Emerging nanotechnologies such as carbon nanotube field effect transistors (CNFETs) and resistive RAM (RRAM), and their monolithic 3D integration offer opportunities for hardware implementations of HD computing through tight integration of logic and memory, energy-efficient computation, and unique device characteristics. We experimentally demonstrate and characterize an end-to-end HD computing nanosystem built using monolithic 3D integration of CNFETs and RRAM. With our nanosystem, we experimentally demonstrate classification of 21 languages with measured accuracy of up to 98% on >20,000 sentences (6.4 million characters), training using one text sample (~100,000 characters) per language, and resilient operation (98% accuracy) despite 78% hardware errors in HD representation (outputs stuck at 0 or 1). By exploiting the unique properties of the underlying nanotechnologies, we show that HD computing, when implemented with monolithic 3D integration, can be up to 420X more energy-efficient while using 25X less area compared to traditional silicon CMOS implementations.

연구 동기 및 목표

• 나노스케일 영역에서 전통적인 CMOS 계산의 에너지 및 확장성 한계를 해결하기 위해 계산 모델을 재고한다.
• 나노스케일 기술에서 증가하는 장치 변동성과 불확실성에 대비하여 강건하고 저에너지 기계학습을 가능하게 한다.
• 초차원 계산을 활용한 하드웨are-소프트웨어 공동 설계 기법을 개발하여 고장 내성 있는, 한 번의 학습으로도 가능한 저에너지·소형 설계를 실현한다.
• CNFET와 RRAM의 단일 3D 통합을 통해 실세계 분류 작업을 위한 완전히 통합된 종단 간 초차원 계산 시스템을 구현한다.

제안 방법

• 초차원(HD) 계산을 활용하여 데이터를 고차원 하이퍼벡터(예: 10,000비트 벡터)로 표현함으로써 강건하고 연상 기반의 계산을 실현한다.
• CNFET와 RRAM의 내재된 장치 변동성을 활용하여 시간 인코딩 논리 방식을 통해 랜덤 지연을 생성함으로써 복잡한 난수 생성기의 필요성을 제거한다.
• 점진적인 RRAM 리셋을 이용한 근사 증분 회로를 도입하여 디지털 대비 30배 적은 트anzistors로 벡터 덧셈을 수행한다.
• 추론 과정에서 효율적인 매칭을 위해 2T2R TCAM 셀(2개의 CNFET + 2개의 RRAM)을 활용한 연상 기억장치를 구현하여 빠른 분류를 가능하게 한다.
• 단일 3D 통합을 통해 논리 회로(CNFET)와 비버니시브 메모리(RRAM)를 근접 배치하여 데이터 이동을 최소화하고 메모리 내 계산을 실현한다.
• RRAM의 다중 저항 상태와 CNFET의 변동성을 활용한 하드웨어 인지 설계를 통해 최소 면적과 에너지로 핵심 HD 연산을 수행한다.

실험 결과

연구 질문

• RQ1 CNFET와 RRAM의 단일 3D 통합이 초차원 계산을 위한 확장 가능하고 에너지 효율적인 하드웨어 플랫폼을 가능하게 할 수 있는가?
• RQ2 고오류 비율을 보이는 나노스케일 장치에 구현된 초차원 계산은 하드웨어 고장에 얼마나 강건한가?
• RQ3 CNFET와 RRAM의 내재된 장치 변동성을 전용 난수 생성기가 없이도 랜덤 하이퍼벡터 생성에 효과적으로 활용할 수 있는가?
• RQ4 근사적·저전력 회로 기법(예: 점진적 RRAM 리셋)이 HD 연산(예: 벡터 덧셈)에 있어 전통적인 디지털 논리 회로를 효과적으로 대체할 수 있는가?
• RQ5 기존 CMOS 대비 CNFET-RRAM 3D 시스템에서의 초차원 계산은 에너지 및 면적 효율성에서 얼마나 향상되는가?

주요 결과

• 시스템은 각 언어당 하나의 텍스트 샘플만으로 21개 언어 데이터셋에서 98%의 분류 정확도를 달성하여 효과적인 한 번의 학습(One-shot learning)을 입증하였다.
• 하드웨어 결함으로 인해 하이퍼벡터 표현 비트의 78%가 0 또는 1로 고정되어도 시스템은 여전히 98%의 정확도를 유지하여 장치 수준의 오류에 대한 강력한 내성성을 입증하였다.
• 최신 실리콘 CMOS 기반 구현 대비 최대 420배의 에너지 효율성 향상과 25배의 면적 감소를 달성하였다.
• 점진적 RRAM 리셋을 활용한 근사 증분 회로는 전면 디지털 구현 대비 트anzistor 수를 30배 감소시켜 소형·저에너지 벡터 산술을 실현하였다.
• 2T2R 셀 기반의 TCAM 검색 모듈은 비버니시브 RRAM의 누설 감소로 인해 SRAM 기반 TCAM 대비 19배 낮은 운영 에너지를 기록하였다.
• 28nm 공정 노드에서 CMOS 대비 7.6배 낮은 에너지 소비와 4.6배 빠른 실행 시간을 확보하여 스케일된 기술 노드에서의 성능 및 효율성 우수성을 입증하였다.