[논문 리뷰] Fast IDS Computing System Method and its Memristor Crossbar-based Hardware Implementation

Sajad Haghzad Klidbary, Saeed Bagheri Shouraki외 1명|arXiv (Cornell University)|2016. 02. 22.

Advanced Memory and Neural Computing참고 문헌 23인용 수 5

한 줄 요약

이 논문은 계산 비용이 높은 잉크 방울 확산(Ids) 연산자를 수학적으로 모델링된 함수로 대체하는 새로운 빠른 IDS 계산 시스템 방법을 제안한다. 이는 메모리 사용량과 계산 비용을 크게 감소시키며, 메모리스터 크로스바 구현을 효율적으로 가능하게 하여 필요한 메모리스터 수를 O(n²)에서 O(3n)로 줄이고, 실시간 응용 분야인 군집화와 함수 근사에 적합한 고속·저전력 동작을 달성한다.

ABSTRACT

Active Learning Method (ALM) is one of the powerful tools in soft computing that is inspired by human brain capabilities in processing complicated information. ALM, which is in essence an adaptive fuzzy learning method, models a Multi-Input Single-Output (MISO) system with several Single-Input Single-Output (SISO) subsystems. Ink Drop Spread (IDS) operator, which is the main processing engine of this method, extracts useful features from the data without complicated computations and provides stability and convergence as well. Despite great performance of ALM in applications such as classification, clustering, and modelling, an efficient hardware implementation has remained a challenging problem. Large amount of memory required to store the information of IDS planes as well as the high computational cost of the IDS computing system are two main barriers to ALM becoming more popular. In this paper, a novel learning method is proposed based on the idea of IDS, but with a novel approach that eliminates the computational cost of IDS operator. Unlike traditional approaches, our proposed method finds functions to describe the IDS plane that eliminates the need for large amount of memory to a great extent. Narrow Path and Spread, which are two main features used in the inference engine of ALM, are then extracted from IDS planes with minimum amount of memory usage and power consumption. Our proposed algorithm is fully compatible with memristor-crossbar implementation that leads to a significant decrease in the number of required memristors (from O(n^2) to O(3n)). Simpler algorithm and higher speed make our algorithm suitable for applications where real-time process, low-cost and small implementation are paramount. Applications in clustering and function approximation are provided, which reveals the effective performance of our proposed algorithm.

연구 동기 및 목표

• 잉크 방울 확산(Ids) 연산자를 사용하는 전통적인 활성 학습 방법(ALM)의 높은 메모리 및 계산 비용을 해결한다.
• 큰 메모리 요구량과 느린 처리 속도로 인해 ALM의 하드웨어 구현이 어려운 문제를 해결한다.
• 전체 IDS 평면을 저장할 필요 없이, 수학적으로 모델링된 IDS 평면 표현 방식을 개발한다.
• 저전력·고속 실시간 계산을 위한 메모리스터 크로스바 아키텍처에서 효율적인 구현을 가능하게 한다.
• 시스템 성능을 유지하면서도 메모리스터 수를 O(n²)에서 O(3n)로 크게 감소시킨다.

제안 방법

• 기존의 IDS 평면 계산을 IDS 행동을 모델링하는 닫힌 형태의 수학적 함수로 대체한다.
• 신뢰성 있는 추론 성능을 확보하기 위해 새로운 모델에서 좁은 경로와 확산 특성을 활용하여 시스템의 안정성과 수렴성을 유지한다.
• 대규모 메모리 저장을 피하기 위해 분석 함수를 사용하여 IDS 평면의 매개변수 표현을 유도한다.
• 메모리스터 크로스바 아키텍처와의 완전한 호환성을 확보하여 하드웨어 효율성을 높인다.
• 중복 계산을 줄여 전력 소비를 최소화하고 고속 처리를 최적화한다.
• 메모리스터 크로스바를 사용하여 시스템을 구현함으로써, 속도와 에너지 효율성을 높이는 내장형 메모리 컴퓨팅 특성을 유리하게 활용한다.

실험 결과

연구 질문

• RQ1 큰 IDS 평면을 저장할 필요 없이, IDS 연산자를 수학적으로 모델링된 함수로 대체할 수 있는가?
• RQ2 정확도나 안정성에 손상 없이 IDS 계산 시스템의 계산 비용과 메모리 사용량을 어떻게 줄일 수 있는가?
• RQ3 메모리스터 크로스바 아키텍처를 얼마나 효율적으로 활용하여 제안된 IDS 방법을 실행할 수 있는가?
• RQ4 기존 방법 대비 새로운 방법으로서의 메모리스터 수 이론적·실제 감소율은 어느 정도인가?
• RQ5 제안된 방법은 군집화와 함수 근사와 같은 실시간 응용 분야에서 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 방법은 필요한 메모리스터 수를 O(n²)에서 O(3n)로 줄여 뚜렷한 하드웨어 효율성 향상을 달성한다.
• IDS 평면의 수학적 모델링 덕분에 전체 IDS 평면을 저장할 필요가 없어져 메모리 사용량이 극적으로 감소한다.
• 간소화된 계산과 메모리스터 크로스바에 직접 매핑된 구조 덕분에 고속 동작을 달성한다.
• 원래 ALM의 핵심 특성인 시스템 안정성과 수렴성은 유지된다.
• 군집화와 함수 근사 분야의 응용에서 저전력·저비용으로 효과적인 성능을 보였다.
• 알고리즘이 메모리스터 크로스바 구현과 완전히 호환되어 확장 가능하고 에너지 효율적인 배포가 가능하다.