[논문 리뷰] Statistical Temperature Coefficient Distribution in Analog RRAM Array: Impact on Neuromorphic System and Mitigation Method

Heng Xu, Yue Sun외 3명|arXiv (Cornell University)|2021. 05. 12.

Advanced Memory and Neural Computing참고 문헌 29인용 수 3

한 줄 요약

이 논문은 HfOx 기반 아날로그 RRAM 진열에서 도전성 드프트로 인해 뉴로모픽 추론 정확도가 떨어지는 온도 계수(Tα)의 통계적 분포를 분석하기 위한 컴act 모델을 제안한다. 도전성 범위 선택 최적화와 전류 보상 기법을 적용함으로써, 400K에서 MNIST 분류 정확도를 79.8%에서 89.6%로 향상시켜 고온 뉴로모픽 시스템의 열 불안정성을 효과적으로 완화한다.

ABSTRACT

Emerging analog resistive random access memory (RRAM) based on HfOx is an attractive device for non-von Neumann neuromorphic computing systems. The differences in temperature dependent conductance drift among cells hamper computing accuracy, characterized by the statistical distribution of temperature coefficient(T{\alpha}). A compact model was presented in order to investigate the statistical distribution of T{\alpha} under different resistance states. Based on this model, the physical mechanism of thermal instability of cells with a positive T{\alpha} was elucidated. Furthermore, this model can also effectively evaluate the impact of conductance distribution of different levels under various temperatures in artificial neural networks (ANN). An approach incorporating the optimized conductance range selection and the current compensation scheme was proposed to reduce the impacts of the distribution of T{\alpha}. The simulation results showed that recognition accuracy was improved from 79.8% to 89.6% for the application of MNIST handwriting digits classification with a two-layer perceptron at 400K after adopting the proposed optimization method.

연구 동기 및 목표

• HfOx 기반 아날로그 RRAM 진열에서 다양한 저항 상태 간의 온도 계수(Tα)의 통계적 분포를 조사하기 위해.
• 다중 약한 필라멘트 RRAM 구조에서 양의 Tα를 가지는 셀에서 열 불안정성이 발생하는 물리적 기원을 이해하기 위해.
• 다양한 온도 조건에서 Tα 분포가 인공 신경망(ANN)의 추론 정확도에 미치는 영향을 평가하기 위해.
• 최적화된 도전성 범위 선택과 전류 보상 기법을 조합한 완화 전략을 개발하고 검증하기 위해.

제안 방법

• 다중 약한 필라멘트 HfOx RRAM에서 SET 과정과 산소 공백 동역학을 시뮬레이션하기 위해 2차원 원자 모델을 개발하여 Tα 분포 예측이 가능하도록 하였다.
• Tα의 산포를 정량화하기 위해 변동 계수(cv)를 사용하였으며, 저(12.5–25μS), 중(25–50μS), 고(50–100μS) 도전성 범위 3개를 대상으로 분석하였다.
• 온도에 의한 도전성 드프트를 상쇄하기 위해 방정식 ∆𝐼𝑗,𝑇 = −(𝑇𝛼×∆𝑇)/(1+𝑇𝛼×∆𝑇)×𝐼𝑗,𝑇0 를 사용한 전류 보상 기법을 설계하였다.
• 낮은 Tα 변동성(cv = 5.48% in low range)을 보이는 도전성 범위를 선택하여 안정적인 웨이트 매핑을 확보하였다.
• 측정된 작동 온도를 실시간으로 활용하여 보상 전류를 적용하여 원래 출력 전류를 복원하였다.
• 두 층의 퍼셉트론을 사용하여 MNIST에서 검증하였으며, 300K에서 400K까지의 온도 범위에서 추론 정확도를 추적하였다.

실험 결과

연구 질문

• RQ1 HfOx 기반 RRAM 진열에서 다양한 저항 상태 간의 온도 계수(Tα)의 통계적 분포는 어떻게 되는가?
• RQ2 다중 약한 필라멘트 구조에서 양의 Tα를 가지는 RRAM 셀에서 열 불안정성이 발생하는 물리적 메커니즘은 무엇인가?
• RQ3 진열 전반의 Tα 분포가 고온 조건에서 인공 신경망의 추론 정확도에 미치는 영향은 어떠한가?
• RQ4 최적화된 도전성 범위 선택과 전류 보상 기법이 Tα에 기인한 도전성 드프트로 인한 정확도 손실을 효과적으로 복원할 수 있는가?
• RQ5 왜 보상 기법은 350K 이하에서는 효과가 없으며, 이는 뉴로모픽 시스템의 열 관리에 어떤 함의를 갖는가?

주요 결과

• 저도전성 범위(12.5–25μS)에서 Tα의 변동 계수(cv)는 5.48%로, 중도전성 범위의 16.3%와 고도전성 범위의 32.62%보다 현저히 낮아, 저도전성 셀에서 Tα의 균일성이 높음을 나타낸다.
• 400K에서 두 층의 퍼셉트론을 사용한 MNIST 추론 정확도는 Tα 분포만 고려할 경우 기준값 94.48%에서 79.8%로 감소하여, Tα의 영향이 크다는 것을 입증한다.
• 제안된 최적화 및 보상 기법을 적용한 결과, 400K에서 평균 추론 정확도가 89.6%로 복원되었으며, 이는 9.8% 포인트의 향상이다.
• 350K 이하에서는 전류 보상 기법이 효과적이지 않아, 낮은 온도에서는 열 드프트가 덜 두드러지며, 이 온도 이하에서 작동하는 시스템에서는 열 방출이 더욱 중요하다는 것을 시사한다.
• 양의 Tα를 가지는 셀의 불안정성의 물리적 기원은 다중 약한 필라멘트 구조와 산소 공백 분포에 기인하며, 이는 온도 변화에 따른 비균일한 도전성 드프트를 초래한다.
• 고온에서의 유지성 열화가 정확도를 추가로 악화시킨다는 점을 확인하였으며, 이는 뉴로모픽 하드웨어에서 효과적인 열 관리가 필수적임을 강조한다.