基于脑启发的神经网络时序学习算法与应用的研究开题报告
2020-04-21 16:11:58
1. 研究目的与意义(文献综述)
2016年3月,alphago与李世石的围棋大战引发了人们对人工智能技术的高度关注。在人工智能耀眼的光环背后,还存在一些缺陷。就拿深度学习系统alphago来说,首先,它是一个大规模深度神经网络,耗能巨大,它的功率为280000瓦特,而人脑的功率只有20瓦特左右,这使得深度学习的应用领域受到了限制。其次,深度学习背后原理尚不清楚,有很多黑匣子,使得单个网络模型只为特定任务设计与训练,而且不具备通用性,与人脑相距很远。基于目前人们开始再次如人工神经网络之处一样,紧密结合脑与神经科学的试验发现,来指引新型智能系统的设计与优化。中国科学院自动化研究所所长徐波在发表题为“类脑智能研究与发展方向”的演讲中指出:“未来的人工智能将会是一种受脑启发的人工智能,也就是类脑智能”。类脑智能已经成为人工智能领域的研究热点,研究一种能取代深度学习的类脑计算模型成为全球人工智能研究者的目标。
大脑是一个由上百亿个脉冲神经元组成的巨型复杂网络。理解我们的大脑怎样用带有噪声的脉冲活动来可靠、高效并且具有鲁棒性的学习能力,这是计算神经科学中一个最重要的挑战之一,同时也是研究能取代深度学习的类脑计算模型的第一步。人类大多数的感知和序列运动任务都可以被描述成一个动力学系统,并且可以通过调整递归脉冲神经网络中的连接权重来进行刺激驱动的学习与记忆。但是,在脉冲神经网络中,怎样用一种局域、在线、可靠、高效的算法来学习非线性动力学系统的行为(时序变化)还尚未解决。
2. 研究的基本内容与方案
内容:掌握linux操作系统使用与python语言编程并熟练运用,掌握脉冲神经网络平台nengo与nengo_ocl框架下的编程方法,并且可以基于该框架对脉冲神经网络模型及算法进行设计,在前人工作的基础之上,结合神经系统的一般性原理与实验现象,设计一种新型的脉冲神经网络模型,使得其能够以一种可靠、高效并具有生物学合理性的算法来实现对非线性动力学系统行为的学习。
目标:学习在nengo与nengo_ocl框架下的编程方法并且可以基于该框架对脉冲神经网络及算法进行设计,在多项新近研究工作的基础上,设计一种新型的脉冲神经网络模型,使得其能够以一种可靠、高效并具有生物学合理性的算法来实现对非线性动力学系统行为的学习。学习查找文献及阅读文献的方法,提升独立解决问题的能力。提升合作能力,在合作中找到自己的位置,相互沟通,相互学习,相互帮助。在完成毕业设计后,具备快速查找文献和阅读文献的能力,掌握脉冲神经网络的基础知识,学会脉冲神经网络模型及算法的设计方法,具备一定的独立科研能力,为今后的科研打下坚实的基础。
3. 研究计划与安排
2018.2.26--2018.3.4 提交开题报告;
2018.3.5—2018.3.11 外文翻译;
2018.3.12—2018.3.25 完成对nengo与nengo_ocl框架以及脉冲神经网络基础知识的学习;
4. 参考文献(12篇以上)
[1] thalmeier d, uhlmann m, kappen h j, et al. learning universal computations with spikes[j]. plos computational biology, 2016, 12(6): e1004895.
[2] denève, sophie, and christian k. machens. "efficient codes and balanced networks." nature neuroscience 19.3 (2016): 375.
[3] bourdoukan, ralph, and sophie deneve. "enforcing balance allows local supervised learning in spiking recurrent networks."advances in neural information processing systems. 2015.