[论文解读] What Colour is Neural Noise?

Jillian Doyle, Alan C. Evans|arXiv (Cornell University)|Jun 10, 2018

Neural dynamics and brain function参考文献 18被引用 4

一句话总结

本文主张大脑中的神经噪声可能不限于人们普遍假设的白噪声或粉红噪声，而可能表现出多种‘颜色’——即具有不同功率谱密度的噪声，如蓝色、绿色或紫色噪声。通过类比音频、成像和物理学，作者提出在人工神经网络中引入有色噪声可提升泛化能力和认知功能，其中蓝色噪声的抖动（dithering）可能在神经信号处理和随机增强中发挥关键作用。

ABSTRACT

Random noise plays a beneficial role in cognitive processing and produces measurable improvement in simulations and biological agents' task performance. Stochastic facilitation, the phenomenon of additive noise improving signal transmission in complex systems, has been shown to occur in a variety of neural contexts. However, neuroscience analyses to date have not fully explored the colours that neural noise could be. The literature shows a 1/f pink noise power spectrum distribution at many levels, but many less rigourous studies assume white noise, with little justification of why that assumption is made. In this work, we briefly review the colours of noise and their useful applications in other fields. If we consider that noise is not so black and white, we could more colourfully regularize artificial neural networks and re-investigate some surprising results about how the brain benefits from noise.

研究动机与目标

• 挑战神经科学与人工智能领域中普遍存在的假设，即神经噪声主要为白噪声或粉红噪声。
• 探究不同‘颜色’的噪声（由其功率谱密度定义）是否能更准确地模拟生物神经活动的变异性。
• 探索有色噪声（尤其是蓝色噪声）如何增强生物与人工神经系统的信号传输与学习能力。
• 倡导在人工神经网络中改用具有频率特异性的噪声谱代替通用白噪声进行噪声注入，以优化性能。
• 激发跨学科研究，探讨具有非均匀谱特性的噪声在认知与神经计算中的功能角色。

提出的方法

• 基于功率谱密度（PSD）模型：S(f) ∝ 1/f^α，其中α定义噪声颜色，回顾噪声颜色的理论框架。
• 分析现有神经科学文献，识别1/f（粉红噪声）的出现情况，并质疑对其他α值缺乏探索的原因。
• 借鉴计算机图形学与音频工程中的类比，指出蓝色、绿色与紫色噪声在抖动与感知优化中的应用。
• 提出人工神经网络可通过使用有色噪声而非白噪声进行数据增强，从而提升鲁棒性与泛化能力。
• 回顾脑电信号（EEG）、脑磁图（MEG）、功能性磁共振成像（fMRI）及单神经元记录中的随机增强证据，表明特定谱特性的噪声可能提升信号检测能力。
• 指出当前预处理方法（如EEG/MEG中的低通滤波）可能无意中去除了具有功能益处的高频噪声成分。

实验结果

研究问题

• RQ1 在神经信号处理与人工神经网络中，使用非白噪声、非粉红噪声谱的函数影响是什么？
• RQ2 蓝色噪声或其他有色噪声是否可通过抖动机制提升神经系统的信噪比，如同在成像与音频中所见？
• RQ3 为何神经科学普遍假设为白噪声或粉红噪声而缺乏严谨依据？这一假设的后果是什么？
• RQ4 神经噪声的功率谱密度在发育、注意力或任务需求变化下如何改变？这对神经编码意味着什么？
• RQ5 在人工网络中引入有色噪声在多大程度上可复现或增强生物类似的学习能力与鲁棒性？

主要发现

• 大脑中的神经噪声可能不限于白噪声或粉红噪声，如现有文献常假设，而可能表现出更广泛的谱特性。
• 蓝色噪声因其高频功率分布，在成像与音频的抖动应用中已被证明优于白噪声，提示其在神经信号处理中可能具有潜在优势。
• 随机增强（即噪声可增强弱信号检测）可在非白噪声下发生，尤其在涉及谐波与共振时。
• 当前神经数据预处理（如EEG与MEG中的低通滤波）可能去除了本可发挥功能益处的高频噪声成分。
• 人工网络中的Dropout机制与大脑中噪声相关性的降低存在相似性，提示人工与生物噪声管理之间存在平行关系。
• 目前尚无直接实验证据表明神经系统中存在蓝色或绿色噪声，但理论分析与跨学科类比强烈暗示其潜在功能角色。