船舶监控视频稳像技术的研究与仿真文献综述
2020-04-14 19:51:09
(一)研究目的
随着计算机处理速度的提高,数据存储空间的增加,多媒体和网络技术也在迅速地发展,世界进入了数字化和信息化的时代,大量的信息越来越容易被获得和处理,人们的工作环境也逐渐走向了多元化。“视频”作为一种信息的载体和表述形式,在船舶监控中正逐渐成为一种不可或缺的资源,同样地,视频处理技术也已被普遍用于现代化船舶运营和管理中,因此,如何采用合适的处理方法,使视频在船舶监控领域中更加有效地履行其职责,是本文研究的重点目的。
(二)研究意义
视频稳像技术在船舶监控领域中具有重要的意义,在信息获取方面,随着世界各国视频处理技术的发展,监控系统获取图像能力的增强,特别是视频图像所具有的直观、丰富、便于获取、便于储存和传输等特点,使视频稳像的应用成为了未来船舶监控中获取信息的重要手段。拍摄视频过程中,往往会受到环境或相机载体抖动等因素的影响,令相机产生了不规则的运动,致使拍摄质量明显下降。因此,消除视频抖动的稳像技术应运而生,它已成为视频处理中重要的研究问题。
在实际的船舶监控情景中,成像系统会受到船体本身的运动影响,从而导致监控设备产生振动,其得到的监控视频显示的画面会较为模糊,这样会给读取工作带来很多麻烦。例如,由于载体的波动,在集控室或驾驶台的监视器上获得的视频画面中,各仪表的表盘是看不清的,也就不能正确读取各设备的运行数据,不仅给船舱的工作人员带来很多麻烦,增加了不必要的工作量,也使监控系统失去了本身的意义。因此,视频稳像技术的发展刻不容缓。考虑到上述场景在实际工作中较为常见,为了保障船舶航行时的安全,使船舶监控高效地发挥作用,本文所研究的视频稳像技术,对于消除或减少船体振动引起的视频画面不清晰,有较为明显的正面效果。
(三)国内视频稳像技术的发展
目前国内采用的视频稳像方法主要是利用陀螺传感器和伺服控制系统构成的稳像平台来实现的。这些方法可达到一定的稳像精度,但是由于伺服系统固有的体积大、造价高、消耗功率大等缺点,在很多的场合难于满足军事和民用设备进一步发展的需求。1999年中国科学院长春光机所开始对视频稳像技术的原理和应 用范围进行研究并对船载摄像系统获取的图像序列进行初步地稳像处理,取得了一定的效果。近年来,北京理工大学、东南大学、西安电子科技大学等单位也分别对视频稳像断了相关研究。但总体来说,由于视频稳像技术在我国起步较晚,所以在解决复杂运动问题时仍不是十分成熟。
(四)国外视频稳像技术的发展
迄今为止,国外在视频稳像技术方面的研究已有近三十年的历史,在美国、法国、俄罗斯、加拿大和以色列等技术较为先进的国家,对视频稳像技术早已经进行了深入的研究。日本、韩国也针对摄录机的图像稳定技术进行了研究和开发,并己把该技术应用于所生产的成像系统中。目前无论是军用还是民用方面,视频稳像技术的应用都越来越得到人们的重视。
80年代中期,美国首次将视频稳像技术应用在导弹制导系统中,代替了原系统中价格昂贵的稳定平台,并取得了较好的稳定效果。如美国Itek公司研制的稳定系统,该系统利用变相管作为光电转换器件,通过修正仪器移动引起的图像偏移来实现图像序列的稳定。在前苏联,为了观测和抵消视频图像的波动,应用了频闪传感器,该传感器的扫描时间是由专门的计算装置来计算的,它能够根据不同的光照强度、运动速度、抖动幅度、目标与背景的反差度来选择最佳的扫描时间。
步入90年代以后,随着图像处理技术和计算机技术的迅速发展,以美国和加拿大为首的西方国家率先采用稳定算法和图像重组的方法实现图像的稳定,进一步使视频稳像系统向小型化、实时化、高精度化的方向发展。这些成果主要应用在车载平台的侦察系统、目标跟踪系统以及导航系统等方面。为了提高速度,韩国人提出了位平面匹配法(bit plane matching),利用图像的灰度码和图像的位平面实现快速二值匹配来确定图像局部运动矢量,显著地降低了稳像处理的计算量。L.N.Belanger等人提出了金字塔型检测过程,进行反向变换,从而提高了运算速度。Thompson、Lowe和Taai等人提出了多种根据结构信息的特征量跟踪算法,Holder等曾经为目标跟踪系统的导弹制导提出一种电子图像稳定方法,Oshima等也为家用摄录机提出一种电子图像稳定系统,他们所提出方法的共同点都是利用高精度陀螺做传感器,检测出图像的运动矢量,然后利用数字图像处理的方法对像素进行重组,实现输出稳定的视频。
2. 研究的基本内容与方案
{title} (一)研究内容
视频稳定(简称稳像),是指利用相关的算法,对视频设备采集的原始视频序列进行处理,去除其中的抖动。视频稳像的目的,一方面可以让人眼观感舒适,利于人工观测、判别等,另一方面也作为诸多其他后续处理的预处理阶段,如检测、跟踪和压缩。
船载成像系统是一种将成像设备安装在船体上的远距离、非接触的获取目标图像的视频应用平台。其主要用于海上以及船舶内部视频图像信息的釆集,以便于进行海上搜索、监控、执法取证、故障诊断等应用,在军事上可作为目标的定位、跟踪等。所以船载成像系统正逐渐成为船舶监控、海事执法以及相关军事领域的基本手段和有效途径。
稳像按作用机制分为光学、机械和电子稳像。
光学稳像通过主动光学部件自适应调整光路,补偿由于摄像平台抖动造成的图像运动,达到稳定图像的的目的。在军事、医疗仪器等方面,光学稳像均有相对广泛的应用,它通常不需要将整个仪器或光学系统进行稳定,而是在光路中设置一些光学元件来实现对不稳定的图像进行补偿,从而减轻了系统的重量,一般适用于中低精度的稳像系统。
机械式稳像是通过陀螺传感器等器件,检测摄像平台的抖动,然后对伺服系统进行调整而达到稳定图像的目的。在一些较大的系统中,如武器系统,往往将整个成像设备置于稳像平台上,而在一些小型的应用系统中,则只是将光学设备稳定起来。根据消除误差方式的不同,机械式稳像又可以分为一级稳像和二级稳像。一级稳像技术是采用一个框架系统作为光电传感器的光电平台,通过力矩电机驱动平台来保持光电传感器的稳定。二级稳像技术是指在稳定平台粗调的基础上,再用反射镜系统实现精调,使反射镜系统和稳定平台相互结合,可达到更高的稳定精度。
电子稳像技术是应用图像处理和电子技术的方法来直接确定视频帧间偏移量并进行补偿的技术。该技术基于在连续视频图像之间进行运动估计,然后对视频中的每一帧图像进行运动滤波和运动补偿等处理,从而得到更加稳定的图像。目前电子稳像技术已广泛应用于目标检测与跟踪、视频压缩和图像拼接等领域。航拍图像基于航空成像平台获取对地观测图像,机载成像平台的随机运动、抖动等所造成的图像序列的不平稳性,使得如何针对航拍图像的特点设计合适的电子稳像算法成为提高航空监控技术的关键。
(二)技术目标
目前稳像算法的研究现状,主要存在以下问题:全局运动估计的不够准确,导致稳像算法的精度不高;稳像算法运算复杂度高,无法达到实时处理;稳像算法复杂,简化处理会致使稳像的效果不尽人意;算法适用性不广泛,视频场景中有运动物体或有遮挡的情况是稳像技术研究的绊脚石,譬如船舶航行时船体振动引起的视频画面不清晰等,许多算法并不能很好的适应这些特殊情况的要求,也就是无法满足船舶监控视频稳像的处理目的,需要进一步改进。
综上所述,本次论文将从以下方面进行:了解船载成像系统,介绍稳像技术的基本分类和发展现状;阐述视频稳像技术在船舶监控领域中具有的重要意义;介绍电子稳像系统的构成和方法分类;学习运动估计的两种主要算法:基于图像灰度信息的运动估计算法和基于图像特征的运动估计算法;阅读参考文献,了解按时间分段处理视频的视频稳像( SPVS) 方法、结合仿射不变约束与快速扩展卡尔曼(Extend Kalman Filter,EKF)滤波的图像稳像算法等;通过上述算法研究和比较,根据船舶监控的成像特点,选择一种最适合应用于船舶监控视频稳像的算法;使用MATLAB软件编程,并用所选择的算法对视频进行稳像处理,实现船舶监控视频稳像的设计与仿真。
(三)技术方案
一般地,电子稳像系统中主要包含两个方面的内容,即运动矢量估计和运动矢量补偿,这两个方面是紧密联系的,影响稳像的速度、质量和精度。运动补偿是根据运动估计获取的全局运动矢量,去除不必要的运动从而达到稳定视频图像。对于摄像机运动获取的视频图像序列,图像序列的稳像处理,就是利用运动结果对当前图像进行补偿,保留摄像系统正常的有意扫描运动,而去除随机抖动,使输出的视频序列完整流畅,不存在信息丢失和虚假场景,完成图像补偿的目的。图2.1即为电子稳像系统的构成。
图2.1 电子稳像系统
图像的特征是指所获得的图像场景中具有代表性的标志,图像的特征主要包括:灰度极大值点、角点、物体边缘及图像上的特征物体等。检测图像特征和特征的匹配是获取图像运动估计的关键技术。利用图像特征法估计视频图像序列间全局运动矢量的基本步骤为:对图像序列中每一帧图像进行处理提取图像特征;确定特征量的帧间对应关系;计算特征量的运动参数;特征量的运动代入图像运动模型中求出全局运动矢量。下图是视频稳像技术的算法分类。
图2.2 视频稳像算法
按时间分段处理视频的视频稳像( SPVS) 方法,主要步骤是:提取视频的SURF特征点,用uMLESAC算法快速准确地去除异常点,并使用最小二乘法求解帧间仿射运动模型; 然后利用分段方法优化处理视频的仿射运动模型参数; 最后利用视频补偿得到稳定的视频文件。
还有一种,结合仿射不变约束与快速扩展卡尔曼(Extend Kalman Filter,EKF)滤波的图像稳像算法。该算法首先以视频参考帧中的角点量作为特征点,通过Harris检测器选择出稳定角点;然后对待配准点构建Delaunay三角网进行初始匹配,提出利用仿射不变约束方法筛选出精确匹配点;最后利用快速EKF运动滤波方法实时估计和修正噪声的统计特性,从而解决摄像机扫描运动中存在的抖动问题。在对大量分辨率为640×480 picel的航拍图像的仿真实验中,可通过仿射不变约束实现精确的模型估计,采用的快速运动补偿方法在补偿过程中耗时为5.054ms,比传统的运动补偿方法节约了69.5%的时间。实验结果表明,该算法能够实时稳定航拍视频帧间的抖动现象,并能有效跟随场景的真实扫描。
除此之外,还可以采用基于Harris角点和Hu几何不变矩特征的电子稳像算法来去除抖动视频中存在的平移、旋转等抖动问题,并基于OpenCV和Linux设计和实现一个能够处理存在剧烈旋转和频移抖动的视频的电子稳像系统。