基于忆阻器的深度学习网络结构设计与裁剪开题报告
2020-05-02 17:11:03
1. 研究目的与意义(文献综述)
1.1研究目的及意义
1971年,华裔科学家蔡少棠根据变量的对称性预言了忆阻器的存在,忆阻器用来描述电荷与磁通量之间。2008年4月,惠普公司公布了基于tio2的阻变存储器(rram)单元,首次将rram和忆阻器联系起来,证明了忆阻器的存在。忆阻器可以根据流经自身的电荷量改变阻值,具有学习和记忆功能。此外忆阻器还具有工艺尺寸小、高耐久性、能耗低、非易失、非线性等特点。忆阻器的发现使忆阻器的研究和应用进入了一个新的快速发展阶段,目前国内外针对忆阻器的研究主要包括忆阻器物理器件特性、忆阻器建模、逻辑运算与存储、神经网络计算以及模拟信号处理等。忆阻器可以和传统cmos(complementary metal oxide semiconductor)电路进行无缝集成,为制造更快更节能的即开即用且具有生物智能的模拟计算机带来了希望。
现有计算机是按照冯·诺依曼原理、基于程序存取进行工作的,其结构模式与运行机制仍然没有跳出传统的逻辑运算规则,因而在学习认知、记忆联想、推理判断、综合决策等很多方面的信息处理能力还远不能达到人脑的智能水平。随着现代信息科学与技术的飞速发展,这方面的问题日趋尖锐,促使科学和技术专家们寻找解决问题的新出路。随着对生物神经网络的深入了解,人工神经网络获得长足发展。人工神经网络把生物学神经网络抽象简化为物理和数学模型,以工程技术手段从结构和功能上来模拟生物学神经网络,具有非线性、自适应性和学习能力。目前主要从两个方面进行神经网络系统的模拟:一是从结构和实现机理上进行模拟,主要采用微电子技术、生物技术与光学技术来实现;二是从功能上加以模拟。人工神经网络的构建主要包括神经元的组建、神经元之间连接拓扑结构的设计以及改变连接权重的学习规则的选择。
神经元是组成人脑的基本单元,由细胞体、树突和轴突组成。细胞体是神经元的中心,用来处理信息。树突是神经元的输入端,用来接收信息。轴突用于传出神经冲动,主要作用是传出信息。人脑中有大约1011个神经元,每个神经元与104个其他神经元通过突触进行连接。突触的权重随着神经冲动的传递可增强或减弱,因此神经元具有学习和遗忘的功能。
2. 研究的基本内容与方案
2.1研究的基本内容和目标
本文研究了忆阻器的特性、模型以及在深度学习网络中的应用,构建了基于忆阻器的深度学习网络,并对网络进行裁剪。本文所做的工作主要有以下几点:
(1) 忆阻器的概念、特性及数学模型的研究;
(2) 深度学习网络的概念与研究;
3. 研究计划与安排
(1) 1-2周,完成开题报告和文献翻译,完成开题答辩;
(2) 3-4周,学习忆阻器的概念、特性及数学模型;
(3) 5-7周,学习深度学习网络的相关知识;
4. 参考文献(12篇以上)
[1] d. b. strukov, g. s. snider, d. r.stewart, and r. s. williams, “the missing memristor found,” nature, 453, 80–83(2008).
[2] l. o. chua, “memristor—the missing circuit element,” ieeetrans. circuit theory, vol. ct-18, no. 5, pp. 507–519, sep. 1971.
[3] chris yakopcic, md zahangir alom, and tarek m. taha,“memristor crossbar deep network implementation based on a convolutional neuralnetwork,” international joint conference on neural networks , 2016.