[論文レビュー] Mixed-Precision 'Memcomputing'

Manuel Le Gallo, Abu Sebastian+6 more|arXiv (Cornell University)|Jan 16, 2017

Neural Networks and Applications被引用数 3

ひとこと要約

本稿では、バーチャル・ニューマン計算とメムコンピューティングを組み合わせたハイブリッドアーキテクチャであるミックスド・プレシジョン・メムコンピューティングを提案する。このアーキテクチャにより、エネルギー効率が高く低精度なメムコンピューティングを用いて大規模な演算を実行することで、高精度な計算を達成する。959,376個のフェーズ・チェンジ・メモリ（PCM）デバイスを用いて10,000変数の線形方程式系を高精度に解明することを実証し、リボソーム・ヌクレイン酸（RNA）データから遺伝子相互作用ネットワークを再構築する応用も行っている。

ABSTRACT

To process the ever-increasing amounts of data, computing technology has relied upon the laws of Dennard and Moore to scale up the performance of conventional von Neumann machines. As these laws break down due to technological limits, a radical departure from the processor-memory dichotomy is needed to circumvent the limitations of today's computers. 'Memcomputing' is a promising concept in which the physical attributes and state dynamics of nanoscale resistive memory devices are exploited to perform computational tasks with collocated memory and processing. The capability of 'memcomputing' for performing certain logical and arithmetic operations has been demonstrated. However, device variability and non-ideal device characteristics pose technical challenges to reach the numerical accuracy usually required in practice for data analytics and scientific computing. To resolve this, we propose the concept of mixed-precision 'memcomputing' that combines a von Neumann machine with a 'memcomputer' in a hybrid system that benefits from both the high precision of conventional computing and the energy/areal efficacy of 'memcomputing'. Such a system can achieve arbitrarily high computational accuracy with the bulk of the computation realized as low-precision 'memcomputing'. We demonstrate this by addressing the problem of solving systems of linear equations and present experimental results of solving accurately a system of 10,000 equations using 959,376 phase-change memory devices. We also demonstrate a practical application of computing the gene interaction network from RNA expression measurements. These results illustrate that an interconnection of high-precision arithmetic and 'memcomputing' can be used to solve problems at the core of today's computing applications.

研究の動機と目的

• デンナードとムーアの法則の縮小に伴い、高パフォーマンスでエネルギー効率の良い計算の需要が高まっていることを踏まえ、その対応を図ること。
• デバイスのばらつきや非理想特性に起因するメムコンピューティングの数値的不正確性の限界を克服すること。
• バーチャル・ニューマン機械の精度とメムコンピューティングの効率性を活用するハイブリッドシステムの開発。
• データ分析および科学的計算アプリケーションにおけるメムコンピューティングの実用的導入を可能にすること。
• 低精度なメムコンピューティング部材を用いても、高い正確性で大規模な計算問題を解けることを実証すること。

提案手法

• 高精度なバーチャル・ニューマンプロセッサと低精度なメムコンピューティングシステムを統合し、ハイブリッド計算を実現する。
• フェーズ・チェンジ・メモリ（PCM）デバイスを用いて、メムコンピューティング層で大規模な算術および論理演算を実行する。
• 計算負荷が高くても低精度なタスクをメムコンピューティング層にオフロードし、高精度な補正によって正確性を維持するようにシステムを設計する。
• 低精度なメムコンピューティング演算によって生じる誤差を補正するためのフィードバックまたは反復的精錬メカニズムを実装する。
• ハイブリッドシステムを用いて線形方程式系を解き、リボソーム・ヌクレイン酸（RNA）発現データから遺伝子相互作用ネットワークを推定する。
• ナノスケールのメモリデバイスの物理的ダイナミクスと抵抗状態を活用し、メモリと処理が統合されたアーキテクチャで情報を符号化・処理する。

実験結果

リサーチクエスチョン

• RQ1 メムコンピューティングシステムに内在するデバイスのばらつきがあっても、ミックスド・プレシジョン・メムコンピューティングは任意の高精度な計算を達成できるか？
• RQ2 科学的計算において数値的正確性を損なわずに、メムコンピューティングのエネルギー効率および面積効率をどのように活用できるか？
• RQ3 大規模な線形代数問題に対して低精度なメムコンピューティングを用いる場合、性能と正確性のトレードオフはどのようなものか？
• RQ4 ハイブリッドシステムは、ノイズの多いオミックスデータから複雑な生物学的ネットワークを効果的に再構築できるか？
• RQ5 実世界のデータ分析ワークロードに対して、このハイブリッドアーキテクチャのスケーラビリティはどの程度か？

主な発見

• ハイブリッドシステムは、959,376個のフェーズ・チェンジ・メモリ（PCM）デバイスを用いて、10,000本の線形方程式系を高精度に解明した。
• 低精度なメムコンピューティングと高精度なバーチャル・ニューマン補正を組み合わせることで、任意の高精度な計算が達成された。
• リボソーム・ヌクレイン酸（RNA）発現測定値から遺伝子相互作用ネットワークを計算することで、実用的応用の可能性が示された。
• ハイブリッド精度アーキテクチャによって、デバイスのばらつきや非理想特性が効果的に緩和された。
• 従来の高精度計算機と統合された場合、メムコンピューティングが実世界の計算ワークロードにスケーラブルに適用可能であることが確認された。
• 数値の忠実性を損なわず、データ集約型アプリケーションに向けたエネルギー効率および面積効率に優れた計算が可能になった。