神经网络及其类脑芯片技术研究
2022-11-27 14:02:23
论文总字数:16702字
摘 要
随着人工智能的出现,生活正向全智能化方向发展。基于人脑的脉冲神经网络、神经形态计算有望在实现人工智能的同时,降低计算平台的能耗。充分说明计算神经科学在脑科学和人工智能起到了桥梁的作用。
本文在这背景下,从理论方面,对神经网络及其类脑芯片技术的研究:①从人工神经网络与脉冲神经网络基本原理、架构和发展概况出发,总结提炼各种算法优缺点及其应用情况、适用范围。②从国内外基于神经网络的类脑芯片关键技术发展概况出发,研究了神经元器件、算法及应用架构。③研究了NVM新型存储介质对功耗,集成度及应用层面的影响,及忆阻器在存算一体架构上的优化作用。④综述了神经形态芯片计算速度、集成技术的发展情况,研究了模拟人类大脑生物学特征,及其实现计算机低能耗高功效的性能。⑤最后展望类脑计算芯片技术与脉冲神经网络的发展未来。
关键词: 神经网络;存算一体化;人工智能;类脑芯片;忆阻器;神经形态计算
Research on Neural Network and Brain-like Chip Technolog
Abstract
With the emergence of artificial intelligence, life is developing towards full intelligence. The pulse neural network based on human brain and neural morphology calculation are expected to reduce the energy consumption of the computing platform while realizing artificial intelligence. It fully shows that computational neuroscience plays a bridge role in brain science and artificial intelligence.
In this context, the study of neural network and brain-like chip technology from the theoretical aspect: ①Based on the basic principle, architecture and development of artificial neural network and pulse neural network, the advantages and disadvantages of various algorithms, their application and application scope are summarized. ②Based on the development of key technologies of brain-like chips based on neural network at home and abroad, the neuron devices, algorithms and application architectures are studied. ③Effects of NVM new storage media on power consumption, integration and application level are studied, and the optimal function of memristor in architecture are studied. ④The development of computing speed and integration technology of neuromorphic neuromorphic, and the biological characteristics of human brain are studied, and the performance of computer with low energy consumption and high efficiency is realized. ⑤Finally, the development of brain-like computing chip technology and pulse neural network is prospected.
Keywords: Neural network; Integration of memory and computation; Artificial intelligence; Brain-like chip; Memristor; Neuromorphic computation
目 录
摘 要 I
Abstract II
目 录 III
第一章 背景与意义 1
第二章 神经网络基本原理、架构及发展概况 2
2.1 人工神经网络 2
2.1.1 激活函数 2
2.1.2 人工神经网络算法 3
2.2 脉冲神经网络 4
2.2.1 拓扑结构 4
2.2.2 信息的脉冲序列编码方法 5
2.2.3 学习算法 6
2.3 卷积神经网络 7
2.4 小结 7
第三章 神经系统及其突触传递方式 8
3.1 神经元结构及特性 8
3.1.1 神经元的组成 8
3.1.2 神经元的特性 8
3.2 突触结构及其传递方式 8
3.2.1 突触结构 8
3.2.2 突触的作用及其传递方式 9
3.3 小结 9
第四章 存算一体架构的研究 10
4.1 国内外存算一体机制的发展 10
4.2 存算单元的架构 11
4.2.1 静态随机存储器存算一体单元设计 11
4.2.2 动态随机存储器存算一体单元设计 11
4.2.3 基于忆阻器的存算一体技术 12
4.3 小结 13
第五章 国内外基于神经网络的类脑芯片研究 14
5.1 英特尔Loihi芯片 14
5.2 IBM的TrueNorth芯片 14
5.3 高通的Zeroth芯片 14
5.4 西井科技DeepSouth芯片 15
5.5 浙大“达尔文”类脑芯片 15
5.6 AI-CTX芯片 16
5.7 天机芯 16
5.8 小结 16
第六章 总结与展望 18
6.1 总结 18
6.2 展望 18
致 谢 19
参考文献 20
第一章 背景与意义
随着信息化时代的发展,数据处理疯狂并快速增长,物联网、5G通信、云计算、人工智能等技术的应用对计算速度和计算功效提出了更高的要求。最先进的超级计算机也无法达到人脑信息处理系统的处理能力。传统的冯诺依曼计算架构因存在功耗墙问题而无法适应快速准确的智能大数据应用场景,尤其在速度、功耗、工艺等方面难以满足未来庞大数据量的处理需求,突显出了冯诺依曼计算架构的缺陷。同时,传统CMOS器件尺寸追求物理极限,摩尔定律难以延续,同样也限制了计算机的性能提升。众所周知,人工智能的三大要素是算力、数据与算法,目前,传统计算架构的计算速度和功耗问题已经成为人工智能发展的瓶颈。
因此,类脑神经网络计算技术是现阶段实现高带宽、低功耗、计算需求的必由之路,其中,人工神经形态器件是解决存储墙和功耗墙问题的有效途径,发展以新材料或新器件为支撑的计算架构成为解决问题的关键点。而且神经形态计算以高度的并行、极低的功耗和存算一体的特点受到了广泛的关注。在已报道的神经形态计算架构芯片中,神经形态计算技术的计算能力显著提高,并且芯片体积极限缩小,能耗方面也超级低。所以具有生物特征的神经形态器件对新型非冯·诺依曼架构芯片的研发具有重要意义,对类脑芯片也具有跨时代的意义。
剩余内容已隐藏,请支付后下载全文,论文总字数:16702字