卷积神经网络在图像修复中的应用研究文献综述
2020-05-02 17:59:29
目的:图像修复是重构图像的缺失或破坏的部分。这个基本问题多年来一直受到图像处理和计算机视觉社区的重视,并导致了该领域的重大进展。传统上,图像修复通过使用基于扩散的方法将局部结构传播到未知部分来解决,或者基于试验的方法一次构建或修补一个像素的缺失部分,同时保持与邻域的一致性。不幸的是,当缺失部分很大时,这些方法就失败了,因此需要提供视觉的附加部分来解决这些具有挑战性的修补问题。这些附加信息可以由自然图像的高阶模型提供,例如由深度神经网络计算的模型。深度神经网络最近导致了许多机器学习任务的开创性进展,如监督图像分类。在有监督的图像分类中,每幅图像都有一个特定的标签,通过一系列基本操作训练神经网络去逼近图像标签。当在巨大的训练数据集(数以百万计的标签和数以百万计的图像)中,深层网络具有卓越的分类性能,有时可能超过人类的准确性。
近期深度学习已经取得了较大的进展,即在自然图像中填充大量空洞,并且具有语义上可视化和内容完整的细节,影响了如对象删除的基本的图像处理任务。虽然这些基于学习的方法在捕获高级特征方面比先前的技术更为有效,但由于内存限制和训练困难,它们只能处理非常低分辨率的输入。即使对于稍大的图像,修补区域也会显得模糊,产生较为明显的边界。
所以该毕业设计的目的在于先掌握现有的基于卷积神经网络的图像修复技术方法,之后再在该方法的基础上加以改进,使之可以处理较大分辨率的输入图像。
意义: 随着时间流逝,越来越多的图像由于种种原因而被破坏,例如因保管不善产生噪点、因数据缺失产生区域丢失等等,恰巧这些图像有具有重要的意义,必须被修复,因此产生了图像修复的需要。传统的基于偏微分方程的修复模型和基于纹理合成的修复模型只能修复较小区域的图像损失。基于卷积神经网路的图像修复技术可以很好的解决当缺失区域过大时,传统修复方法无法很有效的修补图像的问题。 并且修复的准确性也可以通过提高训练数量来增强,消耗了较少的资源但达到所需求的目标。
2. 研究的基本内容与方案
{title} 基本内容:深度学习是当今AI最炙手可热的研究热点。卷积神经网络(CNN)是计算机视觉中应用最广泛的深度学习网络。利用深度学习网络进行图像修复,在目标移除、旧照片修复等有广泛的应用。使用一个CNN网络框架(caffe、tensorflow、pytorch),并构建一个基于深度学习的图像修复系统,完成图像修复的功能。目标:语义修补是指根据图像语义推断出图像中任意大的缺失区域的任务。由于需要高层次上下文的预测,因此这项任务比传统的修补或图像修补更加困难,而修复通常更关注修正虚假数据损坏或移除整个对象。许多应用程序,如恢复损坏的绘画或图像编辑,如果遇到大面积缺失,可以从精确的语义修复方法中获益。然而,如果缺少大片区域或场景复杂,修补工作会变得困难。仅从单个图像提取信息的现有方法通常由于缺乏高级上下文而产生不令人满意的结果。因此使用一种新的语义图像修复方法,它通过对可用数据进行调节来生成缺失的内容。鉴于训练有素的生成模型,使用上下文和先前的损失内容来搜索潜在图像流形中与受损图像的最接近的编码。然后通过生成模型来推断缺失的内容。
拟采用的技术方案及措施:拟采用的技术是卷积神经网络框架和生成对抗网络。
[1] C. Guillemot and O.Le Meur. “Image inpainting: Overview and recentadvances”. In: IEEE Signal ProcessingMagazine 31.1 (2014), pp. 127–144.
[2] Yeh R A, Chen C, LimT Y, et al. Semantic Image Inpainting with Deep Generative Models[J]. 2016.
[3] Fawzi A, SamulowitzH, Turaga D, et al. Image inpainting through neural networkshallucinations[C]// Image, Video, and Multidimensional Signal ProcessingWorkshop. IEEE, 2016:1-5.
[4] Xie J, Xu L, Chen E.Image denoising and inpainting with deep neural networks[C]// InternationalConference on Neural Information Processing Systems. Curran Associates Inc.2012:341-349.
[5] Yang C, Lu X, Lin Z,et al. High-Resolution Image Inpainting using Multi-Scale Neural PatchSynthesis[J]. 2016.