没有合适的资源?快使用搜索试试~ 我知道了~
首页在线梯度下降法提升尖峰神经元脉冲序列学习精度
在线梯度下降法提升尖峰神经元脉冲序列学习精度
0 下载量 104 浏览量
更新于2024-08-26
收藏 1.83MB PDF 举报
本文探讨了"基于梯度下降的尖峰神经元在线学习方法"这一主题,主要针对的是在人工智能及识别技术领域的研究。该方法是针对现有的基于梯度下降的脉冲神经元脉冲序列学习方式进行改进,传统的离线学习方法是在神经元运行结束后,根据所有输出脉冲来调整突触权值。然而,为了模拟生物神经元突触强度的实时更新,本文提出了一种在线学习策略。 在线学习方式的核心在于,当神经元接收到输入并产生脉冲响应时,立即根据实际输出与期望输出之间的差异来调整突触权重。这种方法的优势在于提高了学习过程的实时性和准确性,能够在神经元活动过程中不断优化其性能,从而实现更高效、精确的脉冲序列学习。 实验结果显示,这种基于梯度下降的在线学习方法在脉冲序列学习任务上表现出明显优势,相比于离线学习方法,它能够达到更高的学习精度。研究涉及的关键概念包括脉冲神经元(一种模仿生物神经元行为的人工神经元模型),梯度下降算法(一种优化算法,通过迭代调整参数以最小化损失函数),以及在线学习(区别于批量或离线学习,实时处理数据以更新模型)。 此外,该研究还得到了国家自然科学基金和中央高校基本科研业务费专项基金的支持,显示了学术界对这一新型学习策略的关注和认可。作者徐#彦是南京农业大学信息科技学院的讲师,专注于人工神经网络和模式识别方向的研究。 文章的结构可能包括引言,详细介绍在线学习方法的原理和算法,理论分析,实验设计与结果,讨论和结论部分,以及参考文献。这篇研究论文为脉冲神经网络的学习策略提供了新的视角和实践方法,对于推进人工智能领域尤其是神经网络模型的实际应用具有重要意义。
资源详情
资源推荐
第 !" 卷#第 "$ 期 #
!"#$!"# %"$"$ #
计 算 机 工 程
&"'()*+,-./0.++,0./
##
$%"& 年 "$ 月
1+2+'3+,$%"&
!人工智能及识别技术!
文章编号" !"""#$%&'#&"!($!&#"!("#"N)))文献标识码" *) ) ) 中 图 分 类 号 " +8$O!
基金项目"国家自然科学基金资助项目$ 基于时间编码的脉冲神经网络脉冲序 列 学 习 机 制 的 研 究 % !'"!%)$%& " #中央 高校 基本 科研 业 务
费专项基金资助项目$ 基于时间编码的脉冲神经网络脉冲序列学习机制的研究% ! HF4%$ %"&!+" &
作者简介"徐# 彦!"+(+ ," '男'讲师)博士'主研方向(人工神经网络'模 式 识 别 &
收稿日期"$%"&:%( :$$ # # 修回日期"$%"& :%*:"( # # .#/012"A)OB. ....QB)$+J)$2.
基于梯度下降的脉冲神经元在线学习方法
徐#彦
! 南京农业大学信息科技学院'南京 $"%%+& "
摘# 要" 现有基于梯度下降的脉冲神经元脉冲序列学习方 法 采用离 线 学习方 式'即神经 元 运行结束 后 再根据 全 部
输出脉冲调整突触权值& 基于真实生物神经元突触强度的在线调整机制'提出 一 种在线方 式 的基于 梯 度下降 的 脉
冲序列学习方法& 在神经元运行过程中'当 有 脉 冲 激 发 时'即 刻 根 据 实 际 与 期 望 输出 脉 冲 调 整 突 触 权 值& 实 验 结
果表明'该方法可有效实现脉冲序列学习'与离线的基于梯度下降的方法相比'具有更高的学习精度&
关键词" 脉冲神经元#梯度下降#在线学习#脉冲序列学习#脉冲反应神经元模型
中文引用格式"徐#彦$基于梯度下降的脉冲神经元在线学习方法* F+ $计算机工程'$%"& '!"!"$ " ("&%:"&&'"'% $
英文引用格式" M) =B.$6(0T0./ %+),". S.#0.+ <+B,.0./ V+*N"J DB?+J ". 7,BJ0+.*1+?2+.** F+ $&"'()*+,
-./0.++,0./'$%"& '!"!"$ " ("&% :"&& '"'%$
4B1^1=< ,:FC>=M=21=:@:0C=1=< R:JS>D50;:D>=QC0D1:=J9:;I:=J
MC =B.
! &"##+/+"I9.I",'B*0". 620+.2+B.J L+2N."#"/O'%B.Q0./ 5/,02)#*),B#C.0K+,?0*O'%B.Q0./ $"%%+&'&N0.B"
, *G;JC0IJ- %"@*N++A0?*0./ ?(0T+?+X)+.2+#+B,.0./ '+*N"J?3B?+J ". /,BJ 0+.*J+?2+.*B,+"II#0.+#+B,.0./ '+*N"J?'0$
+$*N+?O.B(*02@+0/N*?"I.+),". B,+BJQ)?*+J B22",J0./ *" *N+B##")*()*?(0T+?BI*+,,)..0./ "I*N+.+),".$DB?+J ". *N+
".#0.+BJQ)?*'+2NB.0?' "I*N+,+B#.+),". ?O.B(?+'B. ".#0.+?(0T+?+X)+.2+#+B,.0./ '+*N"J 3B?+J ". /,BJ0+.*J+?2+.*
0?(,"("?+J$LN+".#0.+'+*N"J BJQ)?*?*N+?O.B(*02@+0/N*?B22",J0./ *" *N+(,B2*02B#B.J 2",,+?(".J0./ J+?0,+J ")*()*
?(0T+B??"". B?*N+.+),". +'0*?B?(0T+$-A(+,0'+.*B#,+?)#*??N"@*NB**N+".#0.+#+B,.0./ '+*N"J 2B. ,+B#0R+*N+?(0T+
?+X)+.2+#+B,.0./ +II+2*0K+#O B.J NB?N0/N+,#+B,.0./ B22),B2O *NB. *N+"II#0.+#+B,.0./ '+*N"J?3B?+J ". /,BJ0+.*
J+?2+.*$
, K:L A>CD;- ?(0T0./ .+),".#/,BJ0+.*J+?2+.*# ".#0.+#+B,. 0./#?(0T+?+X)+.2+#+B,.0./#?(0T+,+?(".?+.+),". '"J+#
9M7("% $)+'+ UQ$0??.$"%%% :)!$* $$%"&$"$$%$+
!)概述
生物学研究表明生物神经 元之间通 过 脉冲序列
来传递信息
*" +
& 脉冲神经元和网 络
*$ +
完全模 拟生物
神经元的运行方式
'拥有比传统人工神经网络更强的
性能
*) +
'被称为第三代人工神经网络并且得到了广泛
关注和深入研究& 作为实际应用的重要基础'人工神
经网络有 监 督 学习的 研 究一直 受 到 研 究者 的 关 注&
脉冲神经元与网络的有监督学 习也是相 关 研究者关
注的内容
*! :&+
& 其目的就是在一段运行时间内通过学
习使得输出神经元精确地在指定时刻激发出脉冲&
在脉冲神经网络的有监督学习方法中'出现较早
的一类 是 基 于 梯 度 下 降 的 脉 冲 误 差 反 向 传 播 算 法
!6( 0T+E,"("
*' +
及其改进形式& 由于神经元输出的离
散特性以及缺乏连续可微的激活函数'传统的 DE算
法不能直接推广到脉冲神经网络上& 文献*'+ 通过采
用将充分靠近脉冲激发时刻的 神经元内 部 状态近似
的看成是线性 增加的方 法
'首先 克服了上 面 的限制'
提出 前 馈 脉 冲 神 经 网 络 的 反 向 传 播 算 法& 随 后 对
6(0T+E,"( 的多种改进方法被提出
*( :*+
'这些方法都是
纯粹的单脉冲结构'即输入)隐层)输出神经元都被限
制仅仅激发一个脉冲& 文献
*+ :"% +
分别提出了一种基于
多脉冲激发的反向传播学习模型'但是仅隐层神经元
可以激发多个脉冲'而输出神经元依然只能激发一个
脉冲'所以仍然属于单脉冲学习的模型&
无论从生物 学 基础)理 论 研 究还 是 实 际 应用 的
下载后可阅读完整内容,剩余6页未读,立即下载
weixin_38529123
- 粉丝: 3
- 资源: 930
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- C++标准程序库:权威指南
- Java解惑:奇数判断误区与改进方法
- C++编程必读:20种设计模式详解与实战
- LM3S8962微控制器数据手册
- 51单片机C语言实战教程:从入门到精通
- Spring3.0权威指南:JavaEE6实战
- Win32多线程程序设计详解
- Lucene2.9.1开发全攻略:从环境配置到索引创建
- 内存虚拟硬盘技术:提升电脑速度的秘密武器
- Java操作数据库:保存与显示图片到数据库及页面
- ISO14001:2004环境管理体系要求详解
- ShopExV4.8二次开发详解
- 企业形象与产品推广一站式网站建设技术方案揭秘
- Shopex二次开发:触发器与控制器重定向技术详解
- FPGA开发实战指南:创新设计与进阶技巧
- ShopExV4.8二次开发入门:解决升级问题与功能扩展
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功