生物启发的多层卷积脉冲神经网络:无监督学习与噪声鲁棒性

需积分: 50 11 下载量 61 浏览量 更新于2024-09-01 收藏 1.07MB PDF 举报
本文主要探讨了一种创新的生物启发式多层卷积脉冲神经网络(Spiking Convolutional Neural Network, SNN),该网络在实践中解决了多层学习训练困难的问题。相比于传统的非脉冲神经网络,SNN在生物仿真性、低功耗硬件实现和理论计算能力方面具有优势。论文的核心在于提出了一种分层次的训练策略,即采用贪心、逐层的方式训练网络。 首先,网络结构包括一个卷积/池化层,这一层采用稀疏的、基于脉冲的自编码器进行训练,目标是提取原始视觉特征。自编码器是一种无监督学习模型,通过压缩和重构输入数据来学习重要的特征表示,这对于理解图像中的关键元素至关重要。 接着,论文引入了一个特征发现层,这一层利用概率化的突触时间依赖性可塑性(Probabilistic Spike-Timing-Dependent Plasticity, P-STDP)学习规则。P-STDP是一种模拟生物神经元间学习机制的算法,通过调整连接权重来反映神经元之间的同步活动,从而捕捉到更复杂的视觉特征。在这个层中,使用了Winner-Takes-All (WTA) 阈值的漏式积分与放电(Leaky Integrate-and-Fire, LIF)神经元,进一步提升了特征提取的效率和准确性。 实验部分,作者将这种新型SNN应用到MNIST手写数字数据集上,对清洁图像和带有噪声的图像进行了测试。结果显示,对于清洁图像,该网络的识别性能超过98%,这主要归功于卷积层和特征发现层逐级提取的独立且信息丰富的视觉特征。然而,在处理噪声图像时,识别性能下降幅度在0.1%到8.5%之间,表明网络具有一定的抗噪能力,能够保持稳健的表现。 这篇论文展示了如何通过分层学习和生物启发的方法,设计出一种易于训练且具有高效特征提取能力的多层卷积脉冲神经网络,这对于实际应用中的低功耗、生物模仿型计算有着积极的推动作用。未来的研究可以进一步优化训练策略和噪声处理方法,以提升网络在复杂环境下的鲁棒性和性能。