基于时间编码的脉冲神经网络脉冲序列学习机制的研究

This project will explore the supervised spike train learning mechanism for spiking neural networks (SNNs), which is called the third generation of neural network models. The input and output of SNNs are spike trains and the running mechanism of SNNs is closer to the operating mode of the biological nervous system than the other artificial neural networks. Therefore, the research of SNNs has a very high theoretical and practical value for the final realization of artificial intelligence.. This project will firstly study two basic theories that have not been discussed in detail of the spike train learning for SNNs. One is how to overcome the interference among multiple output spikes during learning, the other is the learnability of spike trains. Then, the supervised learning mechanism for single spiking neurons and multilayer SNNs will be studied. Some outstanding problems of them will try to be solved. Learning methods with higher efficiency and precision will be obtained, which have stronger ability to learn more output spikes. Finally, the application of the supervised learning for SNNs will be studied.. The research of this project will promote the development of the theory of neural networks largely and further promote the development of artificial intelligence. Thus, it has a significant meaning for scientific progress and social development..

本项目主要研究第三代人工神经网络（即脉冲神经网络，Spiking neural networks）有监督的脉冲序列学习机制。脉冲神经网络以脉冲序列作为输入输出形式，其运行机制相比较其他人工神经网络更加接近真实的生物神经系统。因此，对脉冲神经网络的研究对于人工智能的最终实现具有极高的理论与应用价值。 . 本项目首先对脉冲神经网络脉冲序列学习中如何克服多个脉冲之间学习的干扰以及脉冲序列可学习性这两个尚未被研究者详细探讨过的基本理论进行研究，然后以此为基础顺序研究单脉冲神经元以及多层脉冲神经网络的脉冲序列学习机制，解决其中的突出问题，得到效率与精度更高，多脉冲学习能力更强的学习方法。最后，对脉冲神经网络脉冲序列学习的应用进行研究。. 本项目的研究将在很大程度上促进神经网络理论的发展，进而对人工智能的发展起到推动作用，从而对科学进步和社会发展具有显著的研究意义。

本项目主要研究脉冲神经网络有监督的脉冲序列学习机制。. 本项目研究的第一部分内容为脉冲神经网络通用的脉冲序列学习理论。首先研究了学习方法以在线和离线方式运行的差别，分析了在线学习方式在多数情况下具有优势的原因。由于所有的脉冲序列学习方法在调整神经元突触权值时都是依据输入脉冲，如果选择合适数量的输入脉冲参与权值调整可以有效的减弱多脉冲学习时的相互干扰。本项目针对两类脉冲序列学习方法分别提出了两种输入脉冲的选择方法。实验结果显示，采用这两种选择方法可以有效的提高大多数脉冲序列学习方法的性能。另外，本项目还提出了脉冲神经元当输入脉冲发生扰动时的敏感性定义和计算方法，从一个侧面揭示了输入与输出脉冲之间的关系。这一部分对于脉冲序列学习理论的发展具有较高的意义。. 本项目研究的第二部分提出了一种在线的基于梯度下降的单神经元脉冲序列学习方法。基于梯度下降的方法采用误差反向传播更容易推广到多层网络，因此具有特定的优势。本项目提出了当神经元一旦有脉冲激发就立刻以此实际输出脉冲结合与其对应的期望输出脉冲构建误差函数的在线构建方式，然后利用梯度下降最小化这个误差函数得到具体的权值调整规则。实验结果显示，该方法可以有效的实现脉冲序列学习，在学习精度、针对高激发率脉冲序列等多个方面具有较明显的优势。. 本项目研究的第三部分主要针对脉冲序列学习方法的应用，着眼于脉冲神经元存储脉冲序列模式这一典型应用，提出了脉冲模式存储与分类的单脉冲学习模式实际上由学习方法的序列学习性能决定这一重要结论，并且通过实验研究了若干脉冲序列学习方法在模式存储上的性能。. 虽然存在一些不足，但是本项目的研究目标大部分实现，研究成果共发表论文6篇，达到了申请书中的预期研究成果。

内容获取失败，请点击重试