[论文解读] The Future of Neural Networks

Sachin Lakra, T. V. Prasad+1 more|arXiv (Cornell University)|Sep 20, 2012

Neural Networks and Applications参考文献 13被引用 4

一句话总结

本文探讨了面向类脑计算的下一代神经网络架构，提出脉冲神经网络和多/无限维网络作为迈向通用人工智能的进展。它强调基于忆阻器的硬件（如MoNETA）可实现能效更高的类脑计算，将神经网络定位为开发类人机器的关键技术。

ABSTRACT

The paper describes some recent developments in neural networks and discusses the applicability of neural networks in the development of a machine that mimics the human brain. The paper mentions a new architecture, the pulsed neural network that is being considered as the next generation of neural networks. The paper also explores the use of memristors in the development of a brain-like computer called the MoNETA. A new model, multi/infinite dimensional neural networks, are a recent development in the area of advanced neural networks. The paper concludes that the need of neural networks in the development of human-like technology is essential and may be non-expendable for it.

研究动机与目标

• 研究模仿人类大脑功能的下一代神经网络架构。
• 考察忆阻器等新型硬件组件在实现类脑计算中的作用。
• 评估脉冲神经网络及多/无限维网络在推动通用人工智能方面的潜力。
• 评估神经网络在构建类人技术中的可行性与必要性。
• 探索先进神经网络模型与新兴神经形态硬件系统之间的整合。

提出的方法

• 提出脉冲神经网络作为一种新型架构，模拟生物神经元的放电行为。
• 引入多/无限维神经网络作为处理复杂高维数据的先进模型。
• 探讨忆阻器——一种具有突触类似特性的非易失性存储器件——在构建能效型神经形态硬件中的应用。
• 描述MoNETA（神经元与时间关联记忆）架构作为一种基于忆阻器件的类脑计算机。
• 分析脉冲神经网络与基于忆阻器的硬件集成，以实现低功耗、高效率计算。
• 强调动态、基于时间的信号处理在神经网络中的重要性，以更好地模拟生物大脑功能。

实验结果

研究问题

• RQ1 脉冲神经网络如何提升人工神经网络的效率与生物合理性？
• RQ2 忆阻器在实现可扩展、低功耗神经形态计算系统中扮演何种角色？
• RQ3 多/无限维神经网络在增强人工智能中的学习与表征能力方面有哪些方式？
• RQ4 MoNETA架构能否作为构建类脑计算系统的可行平台？
• RQ5 神经网络实现人类水平认知能力所需的关键要求是什么？

主要发现

• 脉冲神经网络因其生物合理性与能效优势，被认定为有前景的下一代架构。
• 忆阻器被证明是实现类脑计算的关键组件，可使硬件具备类似突触的功能。
• MoNETA架构被提出作为利用忆阻器件构建神经形态系统的实用框架。
• 多/无限维神经网络在建模复杂高维数据方面代表了显著进步，具有更强的表征能力。
• 本文结论认为，神经网络不仅是有益的，更是发展类人人工智能系统所不可或缺的。
• 鉴于神经网络在建模复杂认知功能方面的能力，其在实现通用人工智能中被视为不可替代。