[논문 리뷰] Fast offset corrected in-memory training

Malte J. Rasch, Fabio Carta외 2명|arXiv (Cornell University)|2023. 03. 08.

Advanced Memory and Neural Computing인용 수 4

한 줄 요약

이 논문은 저항성 크로스바 어레이에서 장치 오프셋 오차를 채퍼(choppers)와 실시간 기준 추정을 사용하여 보정하는 두 가지 새로운 메모리 내 훈련 알고리즘, Chopped-TTv2(c-TTv2)와 Analog Gradient Accumulation with Dynamic Reference(AGAD)를 제안한다. 두 알고리즘은 O(n) 실행 시간 복잡도를 유지하면서도, 장치 비이상성과 오프셋 변동 조건에서도 최소 20개의 도전도 상태로 정확한 훈련을 가능하게 한다.

ABSTRACT

In-memory computing with resistive crossbar arrays has been suggested to accelerate deep-learning workloads in highly efficient manner. To unleash the full potential of in-memory computing, it is desirable to accelerate the training as well as inference for large deep neural networks (DNNs). In the past, specialized in-memory training algorithms have been proposed that not only accelerate the forward and backward passes, but also establish tricks to update the weight in-memory and in parallel. However, the state-of-the-art algorithm (Tiki-Taka version 2 (TTv2)) still requires near perfect offset correction and suffers from potential biases that might occur due to programming and estimation inaccuracies, as well as longer-term instabilities of the device materials. Here we propose and describe two new and improved algorithms for in-memory computing (Chopped-TTv2 (c-TTv2) and Analog Gradient Accumulation with Dynamic reference (AGAD)), that retain the same runtime complexity but correct for any remaining offsets using choppers. These algorithms greatly relax the device requirements and thus expanding the scope of possible materials potentially employed for such fast in-memory DNN training.

연구 동기 및 목표

• 저항성 크로스바 어레이에서의 장치 오프셋 오차 문제를 해결함으로써, 이들의 실용성을 높이기 위한 핵심 과제를 해결한다.
• 최신 TTv2 기술에서 요구하는 완벽한 대칭점(Symmetry Point, SP)에 의존하는 문제를 해결하며, 이는 프로그래밍 정확도 부족과 재료의 불안정성에 민감한 문제를 해결한다.
• 장치 재료에 대한 엄격한 요구 조건을 줄이며, 오프셋 변동과 비이상적인 스위칭 거동 조건에서도 견고한 훈련을 가능하게 한다.
• 실행 시간 복잡도를 O(n)으로 유지하면서도 기울기 업데이트 정확도를 향상시킴으로써 높은 계산 효율성을 확보한다.
• 현재 및 향후 저항성 메모리 기술로도 구현 가능한 메모리 내 훈련을 가능하게 하기 위해 도전도 상태 수를 줄인다(예: 20개 상태).

제안 방법

• c-TTv2는 읽기 과정에서 기울기 신호의 부호를 뒤집는 채퍼를 사용하여, 안정적인 대칭점이 필요 없이 오프셋 보정을 수행한다.
• AGAD는 최근 기울기 신호의 누적 평균을 사용해 실시간으로 기준 값을 동적으로 추정함으로써, 전용 기준 크로스바가 필요 없도록 한다.
• 두 알고리즘은 메모리 내 순방향 및 역방향 전파, 펄스 동시 발생을 이용한 외적 곱 기반 기울기 계산을 위한 핵심 TTv2 아키텍처를 그대로 유지한다.
• 기울기 누적은 열 단위로 디지털로 수행되며, 업데이트의 안정성을 높이기 위해 노이즈 필터링을 적용한다.
• 알고리즘은 누적 기울기를 저장하는 디지털 은닉 행렬 H를 사용하며, 임계값에 도달할 때만 가중치 업데이트를 실행한다.
• c-TTv2는 디지털 누적 이전에 기울기 신호의 부호를 뒤집어 오프셋을 보정하는 반면, AGAD는 신호를 정규화하기 위해 동적 기준을 계산한다.

Figure 1: Physical implementaton of in-memory matrix-vector multiplication ( MVM ) for forward and backward passes and outer product update according to Gokmen & Vlasov ( 2016 ) .

실험 결과

연구 질문

• RQ1 완벽한 대칭점이 필요 없이 장치 오프셋 오차에 대해 견고한 메모리 내 훈련이 가능할 수 있는가?
• RQ2 높은 훈련 정확도를 유지하면서도 필요한 도전도 상태 수를 줄일 수 있는가?
• RQ3 오프셋 변동과 재료의 불안정성이 기존 메모리 내 훈련 알고리즘(예: TTv2)의 성능에 미치는 영향은 어떠한가?
• RQ4 동적 기준 추정이 전용 기준 크로스바가 필요 없도록 하고, 알고리즘의 견고성을 향상시킬 수 있는가?
• RQ5 실제 장치 비이상성 조건에서 c-TTv2와 AGAD가 오직 20개의 도전도 상태로 near-floating-point 정확도를 얼마나 잘 달성할 수 있는가?

주요 결과

• c-TTv2는 일정 한계 이내의 참조 오프셋 오차를 효과적으로 보정하며, TTv2에 비해 훨씬 높은 견고성을 확보한다.
• AGAD는 참조 오프셋에 완전히 민감하지 않으며, 모든 테스트된 DNN 및 장치 모델에서 TTv2와 c-TTv2를 항상 능가한다.
• 20개의 도전도 상태로도, c-TTv2와 AGAD는 특히 가중치 크로스바의 대칭점 보정이 이루어진 경우, 부동소수점 기준선과 근접하거나 그 이하의 테스트 오차를 달성한다.
• AGAD의 성능은 도전도 상태 수가 많아질수록 향상되며, 더 고급 재료로의 확장성 잠재력을 보여준다.
• 오프셋 오차가 없더라도 두 신규 알고리즘이 TTv2를 능가함으로써, 기울기 계산 및 업데이트 정확도 측면에서 본질적인 이점이 있음을 입증한다.
• 결과적으로 20개 상태는 오프셋 보정 기술과 결합될 경우 고정밀도 메모리 내 훈련에 충분하며, 저항성 크로스바 어레이의 실용 가능한 재료 공간을 넓힌다.

Figure 2: Improved in-memory training algorithms, c-TTv2 and AGAD . The blue color indicates equations unique and in addition for AGAD . The reference subtraction (in red) is not needed for AGAD . Removing blue equations and fixing the choppers recovers TTv2 .