[논문 리뷰] Neuromorphic Computing with Deeply Scaled Ferroelectric FinFET in Presence of Process Variation, Device Aging and Flicker Noise.

Sourav De, Bo-Han Qiu외 5명|arXiv (Cornell University)|2021. 03. 05.

Advanced Memory and Neural Computing참고 문헌 14인용 수 16

한 줄 요약

이 논문은 6 nm HfZrO2 층을 갖는 깊이 스케일링된 페로일렉트릭 피nfFET가 공정 변동성, 플리커 노이즈 및 소자 노후화와 같은 비이상적 조건에서도 강력한 뉴로모픽 계산을 가능하게 함을 보여준다. 사전 훈련된 97.5% 정확도의 MNIST 네트워크를 사용하여, 이는 모든 비이상적 조건에서 이진 신경망이 아날로그 및 4진 대비를 능가함을 보여주며, 10년 이상의 추정 유지 보존 시간을 달성하고, 최적화된 아키텍처 및 알고리즘과 조합될 경우 페로일렉트릭 피nfFET가 비-바나흐만 계산에 실현 가능함을 검증한다.

ABSTRACT

This paper reports a comprehensive study on the applicability of ultra-scaled ferroelectric FinFETs with 6 nm thick hafnium zirconium oxide layer for neuromorphic computing in the presence of process variation, flicker noise, and device aging. An intricate study has been conducted about the impact of such variations on the inference accuracy of pre-trained neural networks consisting of analog, quaternary (2-bit/cell) and binary synapse. A pre-trained neural network with 97.5% inference accuracy on the MNIST dataset has been adopted as the baseline. Process variation, flicker noise, and device aging characterization have been performed and a statistical model has been developed to capture all these effects during neural network simulation. Extrapolated retention above 10 years have been achieved for binary read-out procedure. We have demonstrated that the impact of (1) retention degradation due to the oxide thickness scaling, (2) process variation, and (3) flicker noise can be abated in ferroelectric FinFET based binary neural networks, which exhibits superior performance over quaternary and analog neural network, amidst all variations. The performance of a neural network is the result of coalesced performance of device, architecture and algorithm. This research corroborates the applicability of deeply scaled ferroelectric FinFETs for non-von Neumann computing with proper combination of architecture and algorithm.

연구 동기 및 목표

• 초미세 스케일링된 페로일렉트릭 피nfFET(6 nm HfZrO2)가 실제 장치 비이상성 조건 하에서 뉴로모픽 계산에 실현 가능한지 평가하는 것.
• 공정 변동성, 플리커 노이즈 및 소자 노후화가 아날로그, 4진(2비트/셀), 이진 시냅스를 사용하는 신경망의 추론 정확도에 미치는 영향을 분석하는 것.
• 정확한 신경망 시뮬레이션을 위한 장치 수준의 변동성을 포괄하는 통계 모델을 개발하는 것.
• 산화막 두께 감소 조건 하에서 페로일렉트릭 피nfFET의 장기적 데이터 유지 보존을 검증하는 것.
• 페로일렉트릭 피nfFET 기반 이진 신경망이 아날로그 및 4진 대비보다 모든 비이상 조건에서 뛰어난 성능을 유지함을 검증하는 것.

제안 방법

• 평가의 기준으로 97.5%의 MNIST 추론 정확도를 갖는 사전 훈련된 신경망을 사용하였다.
• 시뮬레이션 중 공정 변동성, 플리커 노이즈 및 소자 노후화 영향을 포괄하는 통계 모델을 개발하였다.
• 유지 보존, 변동성 및 노이즈 행동에 대한 매개변수를 추출하기 위해 장치 수준의 특성 분석을 수행하였다.
• 개발된 통계 모델을 사용하여 공정 변동성, 플리커 노이즈 및 노후화의 병합 효과를 고려한 신경망 시뮬레이션을 수행하였다.
• 동일한 조건 하에서 이진, 4진(2비트/셀), 아날로그 시냅스 구현 방식을 비교하였다.
• 산화막 두께 감소 조건 하에서 장치 모델을 사용하여 10년 이상의 유지 보존 시간을 추정하였다.

실험 결과

연구 질문

• RQ1 6 nm HfZrO2를 갖는 초미세 스케일링된 페로일렉트릭 피nfFET는 공정 변동성, 플리커 노이즈 및 소자 노후화 조건 하에서도 신뢰할 수 있는 뉴로모픽 추론을 유지할 수 있는가?
• RQ2 공정 변동성, 플리커 노이즈 및 유지 보존 열화가 아날로그, 4진 및 이진 신경망 구현 방식의 추론 정확도에 미치는 영향은 어떠한가?
• RQ3 장치 비이상성의 병합 효과는 아키텍처 및 알고리즘 설계를 통해 효과적으로 모델링되고 완화될 수 있는가?
• RQ4 동일한 비이상 조건 하에서 이진 시냅스 표현 방식이 아날로그 및 4진 표현 방식보다 뛰어난 성능을 보이는가?
• RQ5 산화막 두께 감소 조건 하에서 페로일렉트릭 피nfFET 기반 이진 시냅스의 추정 유지 보존 시간은 얼마인가?

주요 결과

• 페로일렉트릭 피nfFET 기반 이진 신경망은 모든 비이상 조건 하에서 아날로그 및 4진 구현 방식보다 뛰어난 추론 정확도를 달성하였다.
• 산화막 두께 감소, 공정 변동성 및 플리커 노이즈로 인한 유지 보존 열화 영향이 이진 신경망에서 효과적으로 완화되었다.
• 페로일렉트릭 피nfFET의 이진 읽기 프로시저에 대해 10년 이상의 추정 유지 보존 시간을 달성하였다.
• 통계 모델은 신경망 성능에 영향을 미치는 공정 변동성, 플리커 노이즈 및 소자 노후화의 병합 효과를 성공적으로 포괄하였다.
• 신경망 성능는 장치, 아키텍처 및 알고리즘의 상호작용 결과이며, 최적의 상호보완성이 강력한 뉴로모픽 계산을 가능하게 함을 입증하였다.