[論文レビュー] The Future of Neural Networks

Sachin Lakra, T. V. Prasad+1 more|arXiv (Cornell University)|Sep 20, 2012

Neural Networks and Applications参考文献 13被引用数 4

ひとこと要約

この論文は、脳にインspiredされたコンピューティングのための次世代ニューラルネットワークアーキテクチャを検討し、スパイクを発生させるニューラルネットワークと、多次元／無限次元ネットワークを、人工汎用知能への進展として提案している。メモリスティル型ハードウェア（例：MoNETA）を用いることで、エネルギー効率が良く、脳に類似した計算が可能となり、ニューラルネットワークが人間のようなマシンの開発に不可欠であると位置づけている。

ABSTRACT

The paper describes some recent developments in neural networks and discusses the applicability of neural networks in the development of a machine that mimics the human brain. The paper mentions a new architecture, the pulsed neural network that is being considered as the next generation of neural networks. The paper also explores the use of memristors in the development of a brain-like computer called the MoNETA. A new model, multi/infinite dimensional neural networks, are a recent development in the area of advanced neural networks. The paper concludes that the need of neural networks in the development of human-like technology is essential and may be non-expendable for it.

研究の動機と目的

• 人間の脳の機能を模倣する次世代ニューラルネットワークアーキテクチャを調査すること。
• メモリスティルのような新しいハードウェア部品が、脳に類似した計算を可能にする役割を検討すること。
• スパイクニューラルネットワークおよび多次元／無限次元ネットワークが、人工汎用知能の発展にどのように寄与するかを評価すること。
• 人間のような技術を構築するために、ニューラルネットワークの実現可能性と必然性を評価すること。
• 先進的なニューラルネットワークモデルと、新興の神経形状ハードウェアシステムの統合を検討すること。

提案手法

• 生物学的ニューロンのスパイク行動を模倣する新しいアーキテクチャとして、スパイクニューラルネットワークを提案する。
• 複雑で高次元のデータを処理するための高度なモデルとして、多次元／無限次元ニューラルネットワークを導入する。
• シナプスに類似した特性を有する非揮発性メモリデバイスとしてのメモリスティルの使用を検討し、エネルギー効率の良い神経形状ハードウェアを構築する。
• メモリスティルデバイスを用いた脳にインスパイアされたコンピュータとして、MoNETA（NeuronsとTemporal Associationの記憶）アーキテクチャを説明する。
• スパイクニューラルネットワークとメモリスティルベースのハードウェアの統合を分析し、低消費電力で高効率な計算を実現すること。
• 動的で時間依存の信号処理が、生物学的脳機能をよりよく模倣するために、ニューラルネットワークにおいて重要であることを強調する。

実験結果

リサーチクエスチョン

• RQ1 スパイクニューラルネットワークは、人工ニューラルネットワークの効率性と生物学的妥当性をどのように向上させることができるか？
• RQ2 メモリスティルは、スケーラブルで低消費電力の神経形状コンピューティングシステムを実現するために、どのような役割を果たすか？
• RQ3 多次元／無限次元ニューラルネットワークは、人工知能における学習と表現能力を、どのような点で向上させることができるか？
• RQ4 MoNETAアーキテクチャは、脳に類似したコンピューティングシステムを構築するための実用的プラットフォームとして機能できるか？
• RQ5 ニューラルネットワークが人間水準の認知的機能を達成するために、どのような必須要件を満たす必要があるか？

主な発見

• スパイクニューラルネットワークは、生物学的妥当性とエネルギー効率の両面から、次世代アーキテクチャとして有望であると特定された。
• メモリスティルは、ハードウェア上でシナプスに類似した機能を実現することで、脳に類似したコンピューティングを実現する上で、極めて重要なコンponentsであると示された。
• MoNETAアーキテクチャは、メモリスティルデバイスを用いた神経形状システムの構築に向けた実用的フレームワークとして提案された。
• 多次元／無限次元ニューラルネットワークは、より高い表現能力を備えた複雑で高次元のデータをモデル化する上で、顕著な進歩を示した。
• 論文は、ニューラルネットワークが人間のような人工知能システムの開発に、単なる利点を越えて不可欠であると結論づけた。
• ニューラルネットワークは、複雑な認知機能をモデル化できる能力を有していることから、人工汎用知能を達成するために代替不能であると評価された。