CN103685858A - 视频实时处理的方法及设备 - Google Patents
视频实时处理的方法及设备 Download PDFInfo
- Publication number
- CN103685858A CN103685858A CN201210320546.6A CN201210320546A CN103685858A CN 103685858 A CN103685858 A CN 103685858A CN 201210320546 A CN201210320546 A CN 201210320546A CN 103685858 A CN103685858 A CN 103685858A
- Authority
- CN
- China
- Prior art keywords
- data
- video
- real
- style
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract 2
- 238000012545 processing Methods 0.000 claims abstract description 73
- 238000005070 sampling Methods 0.000 claims abstract description 62
- 238000000605 extraction Methods 0.000 claims abstract description 32
- 238000000034 method Methods 0.000 claims description 44
- 238000001914 filtration Methods 0.000 claims description 27
- 238000010421 pencil drawing Methods 0.000 claims description 26
- 238000006243 chemical reaction Methods 0.000 claims description 20
- 238000005516 engineering process Methods 0.000 claims description 10
- 238000002156 mixing Methods 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 5
- 230000002441 reversible effect Effects 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 23
- 230000002829 reductive effect Effects 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 24
- 238000009877 rendering Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 4
- 230000003321 amplification Effects 0.000 description 2
- 238000005034 decoration Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000010076 replication Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
提出了一种视频实时处理的方法,包括以下步骤:获取原始视频帧数据,对所述原始视频帧数据进行下采样;根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据所述提取方式及均衡化方式对下采样后的数据进行边缘化处理;对边缘化处理后的数据进行插值,使所述边缘化处理后的数据达到原始的数据规模。本发明的实施例还提出一种视频实时处理的设备。本发明提出的技术方案,通过下采样的方式降低需要处理的视频数据的数据量,提高数据处理的效率,以及在边缘数据的提取、均衡化环节中,根据不同的边缘化风格,选取合适的算法,提高了算法的效率和边缘化处理的效果。
Description
技术领域
本发明涉及多媒体技术领域,具体而言,本发明涉及视频实时处理的方法及设备。
背景技术
近些年来,随着移动互联网的发展和多媒体技术的普及,视频流媒体技术越来越受到青睐,视频处理技术广泛应用于视频通话、远程监控、实时通信等诸多领域。同时,视频的非真实感渲染效果越来越受到广大用户的欢迎。并涵盖了现阶段所有的信息设备,例如家庭电脑、手机、平板电脑等等。
视频的不同风格边缘生成是视频的非真实感渲染的一个重要环节。通常,为了达到不同的视频风格渲染效果,往往需要不同风格的边缘。
现有不同风格边缘生成技术主要有两个环节:
首先对图像进行边缘提取,例如目前已经应用比较成熟的Sobel、Canny边缘提取算子。然后再对边缘进行相关的均衡化处理来达到用户所需的风格边缘。图1显示了现有的一些现有的不同风格的边缘化生成效果。
现阶段风格边缘生成的两个环节都存在一定的问题。在边缘提取环节中,除了效率上的限制之外,边缘提取的方式也决定了后续风格边缘的生成。例如,Canny算子的提边风格完全不适合浓墨风格的边缘生成,如何针对不同的边缘风格需求找到合适的边缘提取算子也是需要解决的问题。在边缘数据的均衡化环节中,同样需要算法效率的提升,其次不同的边缘风格同样需要优选出不同的均衡化方式。
同时,现有的一些风格边缘生成技术大都是基于静态图像的。目前基于视频的实时风格边缘生成技术亟待开发。
基于上述问题,因此有必要提出有效的技术方案,解决现有技术中视频风格化边缘处理不理想的问题。
发明内容
本发明的目的旨在至少解决上述技术缺陷之一,特别通过降低数据处理量和选择合适的数据处理方式,提升视频风格化边缘处理的效果。
为了达到上述目的,本发明的实施例一方面提出了一种视频实时处理的方法,包括以下步骤:
获取原始视频帧数据,对所述原始视频帧数据进行下采样;
根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据所述提取方式及均衡化方式对下采样后的数据进行边缘化处理;
对边缘化处理后的数据进行插值,使所述边缘化处理后的数据达到原始的数据规模。
本发明的实施例另一方面提出一种视频实时处理的设备,包括采样模块、边缘化模块和插值模块,
所述采样模块,用于获取原始视频帧数据,对所述原始视频帧数据进行下采样;
所述边缘化模块,用于根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据所述提取方式及均衡化方式对下采样后的数据进行边缘化处理;
所述插值模块,用于对边缘化处理后的数据进行插值,使所述边缘化处理后的数据达到原始的数据规模。
本发明提出的上述技术方案,通过下采样的方式降低需要处理的视频数据的数据量,提高数据处理的效率,以及在边缘数据的提取、均衡化环节中,根据不同的边缘化风格,选取合适的算法,提高了算法的效率和边缘化处理的效果。
本发明附加的方面和优点将在下面的描述中部分给出,这些将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为现有的风格边缘化生成效果示意图;
图2为视频实时处理的方法的流程图;
图3为视频实时处理的设备结构示意图;
图4为本发明实施例浓墨风格边缘生成系统框图;
图5为Sigmoid函数示意图;
图6为经过直方图均衡化的视频帧边缘示意图;
图7为本发明实施例铅笔画风格边缘生成系统框图;
图8为铅笔纹理获取模块处理过程示意图;
图9为基于两种风格化边缘的视频渲染效果图;
图10为两种风格化边缘在视频渲染中的应用示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。
针对效率问题,现有解决方案主要是从风格化边缘生成的两个环节入手,通过寻找更高效的边缘提取方式和边缘均衡化方式来解决算法效率上的局限性,然而这类方法并没有大幅减少算法的效率。
本发明提出,除了在边缘提取算法和边缘均衡化模块上提高效率,还将原始的输入数据进行了下采样处理,从而使风格化边缘生成算法可以运行在相对较小的输入数据上,处理完后对输出数据进行插值处理,放大处理后的数据到初始帧规模的输出数据,从而有效提高了算法的执行效率。
为了实现本发明之目的,本发明实施例提出了一种视频实时处理的方法,包括以下步骤:
获取原始视频帧数据,对所述原始视频帧数据进行下采样;
根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据所述提取方式及均衡化方式对下采样后的数据进行边缘化处理;
对边缘化处理后的数据进行插值,使所述边缘化处理后的数据达到原始的数据规模。
如图2所示,为视频实时处理的方法的流程图,包括以下步骤:
S110:对原始视频帧数据进行下采样。
在步骤S110中,首先通过视频获取设备,例如相机、摄像机、录像机、摄像头等设备,获取视频信息。其后,对原始的视频帧数据进行下采样。
具体而言,例如通过下采样UI模块实现。即,下采样的过程是用户参与的过程,用户可以通过设置、选定下采样的参数。其后,根据用户设置、选定的参数进行下采样。
例如,下采样通过软件算法以下任意一种方式进行:
间隔N个像素取一个像素作为采样点的颜色值;
N×N的窗口中像素颜色值的平均值作为采样点的颜色值;其中,N>1。
具体实现中,除了可以以软件算法实现以外,还可以通过DSP芯片或者其他硬件直接实现的下采样功能。
例如,该下采样功能的硬件实现大致可以分为两个具体的模块来实现:数据过滤模板mask设定模块和下采样数据生成模块。数据过滤模板设定模块可以根据用户输入的下采样率来计算生成数据帧数据获取过滤模板;下采样数据生成模块是根据上一模块中的过滤模板来过滤掉原始视频数据中的相应像素数据,从而直接得到下采样后的视频数据。
为了便于后期的数据处理,进一步而言,对原始视频帧数据进行下采样之前或之后,对原始视频帧数据进行灰度转换,得到视频帧的灰度图像。
进行灰度转换包括以下任意一种方式:
从彩色颜色空间RGB或者YUV转换到灰度颜色;或者将彩色颜色空间YUV数据中的Y通道作为像素的灰度值。
例如,在PC机上,一般是进行颜色空间转换来得到视频的灰度数据。例如从RGB、YUV等彩色颜色空间直接通过转换公式计算得到灰度数据。在移动设备平台上,由于很多移动平台设备的获取数据是YUV空间的数据,作为本发明的实施例,除了可以通过颜色转换计算公式得到视频帧的灰度数据,还可以将YUV数据中的Y通道数据直接作为视频帧的灰度数据。这样就省掉了颜色转换的步骤,提高了算法效率。另外,从理论上来说,根据RGB到Y通道的颜色转换公式:
Y=0.299*R+0.587*G+0.114*B;
从RGB到灰度的转换有多种方式,其中一个很著名的心理学计算公式:
Gray=0.299*R+0.587*G+0.114*B;
是和本发明提出的Y转换公式一致的。因此从理论上来说,本发明提出的直接拿移动设备的输入视频帧的Y通道数据作为其灰度数据是有一定的理论基础的。
S120:对下采样后的数据进行边缘化处理。
在步骤S120中,根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据提取方式及均衡化方式对下采样后的数据进行边缘化处理。
作为本发明的实施例,边缘化风格包括:浓墨风格和铅笔画风格。
当边缘化风格为浓墨风格时,采用以下任意一种方式获得初始边缘数据:
采用局部梯度方式得到初始边缘数据:假设图像像素灰度值表示成:I(i,j),则局部梯度滤波后响应值是:
EM(i,j)=sqrt((I(i-1,j)-I(i,j))^2+(I(i,j+1)-I(i,j))^2)。
采用索贝尔滤波或拉普拉斯滤波得到初始边缘数据。
采用以下任意一种方式对浓墨风格的初始边缘数据均衡化:
采用Sigmoid函数将所述初始边缘数据进行直方图均衡化,sigmoid函数可表示如下:其函数的相关形态如图5所示。将初始的边缘数据按照sigmoid函数的映射方式进行均衡变换,使边缘数据更加倾向浓墨风格。
当边缘化风格为铅笔画风格时,采用以下任意一种方式获得初始边缘数据:
采用反相和最小值滤波的方式来得到铅笔画风格的混合色图层,并将混合色图层A与灰度图像的基色图层B进行颜色减淡方式进行图层混合,其计算方式是:C=A/(255-B),其中C是得到铅笔画风格的初始边缘数据;
或者采用非真实感绘制(NPR,Non-photo realistic Rendering)技术得到铅笔画风格的初始铅笔纹理数据。
例如,非真实感绘制NPR技术包括以下步骤:
(1)对输入图像进行适当的预处理,以满足铅笔绘制的需要;(2)从原图像生成白噪声图像;(3)对原图像按纹理特征做区域分割:(4)对白噪声图像做卷积操作(不同的算法中卷积算子各有不同),主要采用LIC卷积法得到可视化向量场的图片纹理;(5)采用边缘检测算子提取原图像的轮廓线;(6)对卷积所得图像与轮廓线图进行融合,得到最终的“铅笔纹理”。
采用以下方式对铅笔画风格的初始边缘数据均衡化:
采用线性直方图均衡化的方式将初始边缘数据进行线性拉伸的均衡化处理。
S130:对边缘化处理后的数据进行插值。
在步骤S130中,对边缘化处理后的数据进行插值,使边缘化处理后的数据达到原始的数据规模。
本发明提出的上述方法,通过下采样的方式降低需要处理的视频数据的数据量,提高数据处理的效率,以及在边缘数据的提取、均衡化环节中,根据不同的边缘化风格,选取合适的算法,提高了算法的效率和边缘化处理的效果。
相应于上述方法,本发明实施例还提出了一种视频实时处理的设备100,包括采样模块110、边缘化模块120和插值模块130。如图3所示,为视频实时处理的设备结构示意图。
采样模块110用于获取原始视频帧数据,对原始视频帧数据进行下采样。
首先通过视频获取设备,例如相机、摄像机、录像机、摄像头等设备,获取视频信息。其后,采样模块110对原始的视频帧数据进行下采样。
具体而言,例如采样模块110通过下采样UI模块实现。即,下采样的过程是用户参与的过程,用户可以通过设置、选定下采样的参数。其后,根据用户设置、选定的参数进行下采样。
例如,采样模块110的下采样通过以下任意一种方式进行:
间隔N个像素取一个像素作为采样点的颜色值;
N×N的窗口中像素颜色值的平均值作为采样点的颜色值;其中,N>1。
具体实现中,采样模块110除了可以以软件算法实现以外,采样模块110还可以通过DSP芯片或者其他硬件直接实现的下采样功能。
例如,采样模块110进一步通过具有下采样功能的硬件实现大致可以分为两个具体的模块来实现:数据过滤模板mask的设定模块和下采样数据的生成模块。数据过滤模板的设定模块可以根据用户输入的下采样率来计算生成数据帧数据的获取过滤模板;下采样数据生成模块是根据上一模块中的过滤模板来过滤掉原始视频数据中的相应像素数据,从而直接得到下采样后的视频数据了。
边缘化模块120用于根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据提取方式及均衡化方式对下采样后的数据进行边缘化处理。
为了便于后期的数据处理,进一步而言,对原始视频帧数据进行下采样之前或之后,边缘化模块120对原始视频帧数据进行灰度转换,得到视频帧的灰度图像。
进行灰度转换包括以下任意一种方式:
从彩色颜色空间RGB或者YUV转换到灰度颜色;或者将彩色颜色空间YUV数据中的Y通道作为像素的灰度值。
例如,在PC机上,一般是进行颜色空间转换来得到视频的灰度数据。例如从RGB、YUV等彩色颜色空间直接通过转换公式计算得到灰度数据。在移动设备平台上,由于很多移动平台设备的获取数据是YUV空间的数据,作为本发明的实施例,除了可以通过颜色转换计算公式得到视频帧的灰度数据,还可以将YUV数据中的Y通道数据直接作为视频帧的灰度数据。这样就省掉了颜色转换的步骤,提高了算法效率。另外,从理论上来说,根据RGB到Y通道的颜色转换公式:
Y=0.299*R+0.587*G+0.114*B;
从RGB到灰度的转换有多种方式,其中一个很著名的心理学计算公式:
Gray=0.299*R+0.587*G+0.114*B;
是和本发明提出的Y转换公式一致的。因此从理论上来说,本发明提出的直接拿移动设备的输入视频帧的Y通道数据作为其灰度数据是有一定的理论基础的。
根据边缘化风格,边缘化模块120确定边缘提取方式及均衡化方式,其后根据提取方式及均衡化方式对下采样后的数据进行边缘化处理。
作为本发明的实施例,边缘化风格包括:浓墨风格和铅笔画风格。
当边缘化风格为浓墨风格时,边缘化模块120采用以下任意一种方式获得初始边缘数据:
采用局部梯度方式得到初始边缘数据,假设图像像素灰度值表示成:I(i,j),则局部梯度滤波后响应值是:
EM(i,j)=sqrt((I(i-1,j)-I(i,j))^2+(I(i,j+1)-I(i,j))^2);或者,
采用索贝尔滤波或拉普拉斯滤波得到初始边缘数据。
边缘化模块120采用以下任意一种方式对浓墨风格的初始边缘数据均衡化:
采用Sigmoid函数将初始边缘数据进行直方图均衡化;
采用双曲正切函数将初始边缘数据进行直方图均衡化。
sigmoid函数可表示如下:其函数的相关形态如图5所示。将初始的边缘数据按照sigmoid函数的映射方式进行均衡变换,使边缘数据更加倾向浓墨风格。也可以采用双曲正切函数将所述初始边缘数据进行直方图均衡化,双曲正切函数可表示为:其函数的形态和sigmoid函数的形态差不多,但是其计算包含四次指数运算。
当边缘化风格为铅笔画风格时,边缘化模块120采用以下任意一种方式获得初始边缘数据:
采用反相和最小值滤波的方式来得到铅笔画风格的混合色图层,并将混合色图层A与灰度图像的基色图层B进行颜色减淡方式进行图层混合,其计算方式是:C=A/(255-B),其中C是得到铅笔画风格的初始边缘数据;或者其他的“铅笔纹理”生成算法。
其他的“铅笔纹理”生成算法包括采用非真实感绘制NPR技术得到铅笔画风格的初始铅笔纹理数据。例如,包括以下步骤:
(1)对输入图像进行适当的预处理,以满足铅笔绘制的需要;(2)从原图像生成白噪声图像;(3)对原图像按纹理特征做区域分割:(4)对白噪声图像做卷积操作(不同的算法中卷积算子各有不同),主要采用LIC卷积法得到可视化向量场的图片纹理;(5)采用边缘检测算子提取原图像的轮廓线;(6)对卷积所得图像与轮廓线图进行融合,得到最终的“铅笔纹理”。
边缘化模块120采用以下方式对铅笔画风格的初始边缘数据均衡化:
采用线性直方图均衡化的方式将初始边缘数据进行线性拉伸的均衡化处理。
插值模块130用于对边缘化处理后的数据进行插值,使边缘化处理后的数据达到原始的数据规模。
作为视频实时处理的设备100的实施例,视频实时处理的设备100包括但不限于手机、个人数字助理PDA或掌上电脑等移动终端。更进一步而言,视频实时处理的设备100在实际应用中还可以体现为上述移动终端中的一个部件或应用模块。
本发明提出的上述设备,通过下采样的方式降低需要处理的视频数据的数据量,提高数据处理的效率,以及在边缘数据的提取、均衡化环节中,根据不同的边缘化风格,选取合适的算法,提高了算法的效率和边缘化处理的效果。
作为本发明的实施例,本本发明提出的浓墨风格边缘生成系统框图如图4所示,该系统结构框图包括以下模块:
视频单帧图像的下采样UI模块:
出于效率上的考虑,对原始视频帧进行了下采样,例如直接采用间隔N个Pixel进行采样一次的方式对原图进行了缩放,并将该将采样率表现在了系统的UI设计上,从而可以直接通过UI来改变系统的下采样率来实时观察系统的性能。
边缘提取模块:
采用局部梯度方式来获取图像的边缘。这种实现方式计算相对简单,并行度较高,算法易于优化,能满足效率上的要求。
图像边缘数据直方图均衡化模块:
从边缘提取模块中出来的原始边缘数据很难带有不同的“风格”。根据浓墨风格的边缘特征,需要对原始边缘数据进行均衡化处理,使初始边缘数据的分布尽可能满足浓墨风格:边缘尽量黑尽量粗。例如,采用Sigmoid函数对原始的边缘数据分布进行了相关均衡化处理,使边缘数据变黑变粗。Sigmoid函数如图5所示。经过直方图均衡化的视频帧边缘如图6所示,其中,左图为原始的视频帧,中间为均衡化之前图像的原始边缘可视化数据,右图为经过sigmoid函数均衡化后的浓墨风格边缘可视化效果。
线性内插数据放大模块:
利用线性插值算法对图像边缘数据直方图均衡化模块的边缘数据进行放大,使它达到原始数据规模。
插值放大算法包括但不限于如下相关的方法:数据复制和数据插值的软件实现方式和/或硬件直接实现方式。具体来说:软件实现方式包括:直接进行按对应位进行数据复制、直接进行一次线性插值等。但不限于上述举例的算法;此外还有其他的二次插值、样条插值等算法。
作为本发明的实施例,本发明提出的铅笔画风格边缘生成系统框图如图7所示,该系统结构框图包括以下几个模块:
视频单帧图像的下采样UI模块:
出于效率上的考虑,对原始视频帧进行了下采样,例如,直接采用间隔N个Pixel进行采样一次的方式对原图进行了缩放。并将该采样率表现在了系统的UI设计上,从而可以直接通过UI来改变系统的下采样率来实时观察系统的性能。
视频帧铅笔纹理获取模块:
铅笔纹理获取算法可以采用比较简单的算法获得,首先对原视频帧的灰度图像数据进行了反相操作,然后对反相后的数据进行最小值滤波处理。滤波操作选择的是八邻域的像素子集。最后将初始数据帧的灰度数据(基色A)与滤波后的灰度图像数据(混合色B)进行了颜色减淡模式的图层混合。混合的计算公式为:C=A/(255-B)。这样原图像和其邻域像素之间的细微差异就能在结果中体现出来,这也是需要找到的“铅笔纹理”。为了加速该模块的计算效率,例如通过采用查找表和汇编并行计算的优化方式来加速图层混合。
铅笔纹理数据直方图均衡化模块:
从视频帧铅笔纹理获取模块中获取的铅笔纹理数据普遍分部在低灰度区带,造成图像对比度不高显示效果不好的情况,直接采用直方图均衡化的方式将铅笔纹理数据均衡化至8位的灰度级,这样有利于改善显示效果。如图8所示,为铅笔纹理获取模块处理过程示意图。
图像放大模块:
采用线性插值的方式将铅笔纹理数据直方图均衡化模块中的“铅笔纹理”图像数据放大到了原始视频帧的规模。插值放大算法包括但不限于如下相关的方法:数据复制和数据插值的软件实现方式和/或硬件直接实现方式。具体来说:软件实现方式包括:直接进行按对应位进行数据复制、直接进行一次线性插值等。但不限于上述举例的算法;此外还有其他的二次插值、样条插值等算法。
相对于图1现有的显示效果,根据本发明提出的技术方案,图9为基于两种风格化边缘的视频渲染效果图,其中,图9左图为原始图片,图9中间为浓墨风格边缘的渲染效果图,图9右图为铅笔画风格边缘的渲染效果图。
如图10所示,为两种风格化边缘在视频渲染中的一个简单应用,其中,左图为原始的视频帧,中间为本发明提出的风格化边缘,右图为将所述风格化边缘应用在视频渲染项目中,增强相应的视频渲染效果。该系统主要将真实的视频帧渲染成浓墨重彩画和铅笔画的风格,主要应用在移动设备的摄像特殊效果中。将风格化边缘应用到了该系统中,用来增强其风格化效果。渲染之后的效果,在大显示分辨率(WVGA、QHD等)的摄像预览模式下都能达到实时的处理速度。
根据本发明提出的技术方案,将本发明与一系列当前主流视频渲染算法在效果和效率两个角度进行对比。可以发现,在实际的渲染效果上,本发明提出的浓墨风格和铅笔画风格边缘在相对较小的下采样率下能达到令人满意的效果,相关的技术已经正在往相关产品上移植。在算法的效率上,本发明提出的算法在WVGA、QHD等大显示分辨率的视频输入情况下,处理速度可以高达40ms/f(以终端Galaxy I9220平台进行测试),已经达到移动设备上视频处理的实时要求,远远领先于现有的技术方案。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅是本发明的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (19)
1.一种视频实时处理的方法,其特征在于,包括以下步骤:
获取原始视频帧数据,对所述原始视频帧数据进行下采样;
根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据所述提取方式及均衡化方式对下采样后的数据进行边缘化处理;
对边缘化处理后的数据进行插值,使所述边缘化处理后的数据达到原始的数据规模。
2.如权利要求1所述的视频实时处理的方法,其特征在于,在进行边缘化处理之前,还包括:
对所述原始视频帧数据进行下采样之前或之后,对所述原始视频帧数据进行灰度转换,得到视频帧的灰度图像。
3.如权利要求2所述的视频实时处理的方法,其特征在于,所述边缘化风格包括:浓墨风格和铅笔画风格。
4.如权利要求3所述的视频实时处理的方法,其特征在于,当所述边缘化风格为浓墨风格时,采用以下任意一种方式获得初始边缘数据:
采用局部梯度方式得到初始边缘数据;
采用索贝尔滤波或拉普拉斯滤波得到初始边缘数据。
5.如权利要求4所述的视频实时处理的方法,其特征在于,采用以下任意一种方式对所述初始边缘数据均衡化:
采用Sigmoid函数将所述初始边缘数据进行直方图均衡化;
采用双曲正切函数将所述初始边缘数据进行直方图均衡化。
6.如权利要求3所述的视频实时处理的方法,其特征在于,当所述边缘化风格为铅笔画风格时,采用以下任意一种方式获得初始边缘数据:
采用反相和最小值滤波的方式来得到铅笔画风格的混合色图层,并将所述混合色图层与灰度图像的基色图层进行颜色减淡方式进行图层混合,得到铅笔画风格的初始边缘数据;
采用非真实感绘制NPR技术得到铅笔画风格的初始边缘数据。
7.如权利要求6所述的视频实时处理的方法,其特征在于,采用以下方式对所述初始边缘数据均衡化:
采用线性直方图均衡化的方式将所述初始边缘数据进行线性拉伸的均衡化处理。
8.如权利要求2所述的视频实时处理的方法,其特征在于,进行灰度转换包括以下任意一种方式:
从彩色颜色空间RGB或者YUV转换到灰度颜色;
将彩色颜色空间YUV数据中的Y通道作为像素的灰度值。
9.如权利要求1所述的视频实时处理的方法,其特征在于,所述下采样包括以下任意一种方式:
间隔N个像素取一个像素作为采样点的颜色值;
N×N的窗口中像素颜色值的平均值作为采样点的颜色值;其中,N>1。
10.一种视频实时处理的设备,其特征在于,包括采样模块、边缘化模块和插值模块,
所述采样模块,用于获取原始视频帧数据,对所述原始视频帧数据进行下采样;
所述边缘化模块,用于根据边缘化风格,确定边缘提取方式及均衡化方式,其后根据所述提取方式及均衡化方式对下采样后的数据进行边缘化处理;
所述插值模块,用于对边缘化处理后的数据进行插值,使所述边缘化处理后的数据达到原始的数据规模。
11.如权利要求10所述的视频实时处理的设备,其特征在于,在进行边缘化处理之前,还包括:
所述采样模块对所述原始视频帧数据进行下采样之前或之后,所述边缘化模块对所述原始视频帧数据进行灰度转换,得到视频帧的灰度图像。
12.如权利要求11所述的视频实时处理的设备,其特征在于,所述边缘化风格包括:浓墨风格和铅笔画风格。
13.如权利要求12所述的视频实时处理的设备,其特征在于,当所述边缘化风格为浓墨风格时,所述边缘化模块采用以下任意一种方式获得初始边缘数据:
采用局部梯度方式得到初始边缘数据;
采用索贝尔滤波或拉普拉斯滤波得到初始边缘数据。
14.如权利要求13所述的视频实时处理的设备,其特征在于,所述边缘化模块采用以下任意一种方式对所述初始边缘数据均衡化:
采用Sigmoid函数将所述初始边缘数据进行直方图均衡化;
采用双曲正切函数将所述初始边缘数据进行直方图均衡化。
15.如权利要求12所述的视频实时处理的设备,其特征在于,当所述边缘化风格为铅笔画风格时,所述边缘化模块采用以下任意一种方式获得初始边缘数据:
采用反相和最小值滤波的方式来得到铅笔画风格的混合色图层,并将所述混合色图层与灰度图像的基色图层进行颜色减淡方式进行图层混合,得到铅笔画风格的初始边缘数据;
采用非真实感绘制NPR技术得到铅笔画风格的初始边缘数据。
16.如权利要求15所述的视频实时处理的设备,其特征在于,所述边缘化模块采用以下方式对所述初始边缘数据均衡化:
采用线性直方图均衡化的方式将所述初始边缘数据进行线性拉伸的均衡化处理。
17.如权利要求11所述的视频实时处理的设备,其特征在于,所述边缘化模块进行灰度转换包括以下任意一种方式:
从彩色颜色空间RGB或者YUV转换到灰度颜色;
将彩色颜色空间YUV数据中的Y通道作为像素的灰度值。
18.如权利要求10所述的视频实时处理的设备,其特征在于,所述采样模块下采样包括以下任意一种方式进行下采样:
间隔N个像素取一个像素作为采样点的颜色值;
N×N的窗口中像素颜色值的平均值作为采样点的颜色值;其中,N>1。
19.如权利要求10所述的视频实时处理的设备,其特征在于,所述采样模块包括数据过滤模板设定模块和下采样数据的生成模块;
所述数据过滤模板设定模块,用于根据用户输入的下采样率来计算生成数据帧数据的获取过滤模板;
所述下采样数据生成模块,用于根据所述过滤模板过滤掉原始视频数据中的相应像素数据,得到下采样后的视频数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210320546.6A CN103685858A (zh) | 2012-08-31 | 2012-08-31 | 视频实时处理的方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210320546.6A CN103685858A (zh) | 2012-08-31 | 2012-08-31 | 视频实时处理的方法及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103685858A true CN103685858A (zh) | 2014-03-26 |
Family
ID=50322049
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210320546.6A Pending CN103685858A (zh) | 2012-08-31 | 2012-08-31 | 视频实时处理的方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103685858A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107967668A (zh) * | 2016-10-20 | 2018-04-27 | 上海富瀚微电子股份有限公司 | 一种图像处理方法及装置 |
CN108320263A (zh) * | 2017-12-29 | 2018-07-24 | 维沃移动通信有限公司 | 一种图像处理的方法、装置及移动终端 |
CN110070495A (zh) * | 2019-02-20 | 2019-07-30 | 北京字节跳动网络技术有限公司 | 图像的处理方法、装置和电子设备 |
CN110175959A (zh) * | 2019-05-20 | 2019-08-27 | 南京信息工程大学 | 一种台风云图增强方法 |
CN110555799A (zh) * | 2019-09-26 | 2019-12-10 | 北京百度网讯科技有限公司 | 用于处理视频的方法和装置 |
CN111723818A (zh) * | 2020-06-22 | 2020-09-29 | 浙江大华技术股份有限公司 | 图像预处理方法和装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1741068A (zh) * | 2005-09-22 | 2006-03-01 | 上海广电(集团)有限公司中央研究院 | 一种基于边界的直方图均衡方法 |
CN101017567A (zh) * | 2007-03-09 | 2007-08-15 | 李昕 | 用于将数字照片转换成人像素描画的方法和设备 |
CN101038675A (zh) * | 2006-03-16 | 2007-09-19 | 腾讯科技(深圳)有限公司 | 实现水墨风格渲染的方法及装置 |
CN101588438A (zh) * | 2009-06-10 | 2009-11-25 | 拓维信息系统股份有限公司 | 由彩照转化为不同风格图片的手机动画创作方法 |
CN102332170A (zh) * | 2011-07-26 | 2012-01-25 | 深圳市万兴软件有限公司 | 一种计算机素描画的生成方法和系统 |
US20120169759A1 (en) * | 2011-01-04 | 2012-07-05 | Samsung Electronics Co., Ltd. | Method and apparatus for creating a live artistic sketch of an image |
CN102639962A (zh) * | 2009-10-20 | 2012-08-15 | 罗伯特·博世有限公司 | 使用非真实感(npr)3d地图的3d导航方法 |
-
2012
- 2012-08-31 CN CN201210320546.6A patent/CN103685858A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1741068A (zh) * | 2005-09-22 | 2006-03-01 | 上海广电(集团)有限公司中央研究院 | 一种基于边界的直方图均衡方法 |
CN101038675A (zh) * | 2006-03-16 | 2007-09-19 | 腾讯科技(深圳)有限公司 | 实现水墨风格渲染的方法及装置 |
CN101017567A (zh) * | 2007-03-09 | 2007-08-15 | 李昕 | 用于将数字照片转换成人像素描画的方法和设备 |
CN101588438A (zh) * | 2009-06-10 | 2009-11-25 | 拓维信息系统股份有限公司 | 由彩照转化为不同风格图片的手机动画创作方法 |
CN102639962A (zh) * | 2009-10-20 | 2012-08-15 | 罗伯特·博世有限公司 | 使用非真实感(npr)3d地图的3d导航方法 |
US20120169759A1 (en) * | 2011-01-04 | 2012-07-05 | Samsung Electronics Co., Ltd. | Method and apparatus for creating a live artistic sketch of an image |
CN102332170A (zh) * | 2011-07-26 | 2012-01-25 | 深圳市万兴软件有限公司 | 一种计算机素描画的生成方法和系统 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107967668A (zh) * | 2016-10-20 | 2018-04-27 | 上海富瀚微电子股份有限公司 | 一种图像处理方法及装置 |
CN107967668B (zh) * | 2016-10-20 | 2022-02-08 | 上海富瀚微电子股份有限公司 | 一种图像处理方法及装置 |
CN108320263A (zh) * | 2017-12-29 | 2018-07-24 | 维沃移动通信有限公司 | 一种图像处理的方法、装置及移动终端 |
CN110070495A (zh) * | 2019-02-20 | 2019-07-30 | 北京字节跳动网络技术有限公司 | 图像的处理方法、装置和电子设备 |
CN110070495B (zh) * | 2019-02-20 | 2021-09-17 | 北京字节跳动网络技术有限公司 | 图像的处理方法、装置和电子设备 |
CN110175959A (zh) * | 2019-05-20 | 2019-08-27 | 南京信息工程大学 | 一种台风云图增强方法 |
CN110175959B (zh) * | 2019-05-20 | 2023-04-18 | 南京信息工程大学 | 一种台风云图增强方法 |
CN110555799A (zh) * | 2019-09-26 | 2019-12-10 | 北京百度网讯科技有限公司 | 用于处理视频的方法和装置 |
CN111723818A (zh) * | 2020-06-22 | 2020-09-29 | 浙江大华技术股份有限公司 | 图像预处理方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109919869B (zh) | 一种图像增强方法、装置及存储介质 | |
US9615039B2 (en) | Systems and methods for reducing noise in video streams | |
US9639956B2 (en) | Image adjustment using texture mask | |
EP2164040B1 (en) | System and method for high quality image and video upscaling | |
WO2018082185A1 (zh) | 图像处理方法和装置 | |
Fang et al. | Single image dehazing and denoising: a fast variational approach | |
CN111429371B (zh) | 图像处理方法、装置及终端设备 | |
CN107516319A (zh) | 一种高精度简易交互式抠图方法、存储设备及终端 | |
CN103685858A (zh) | 视频实时处理的方法及设备 | |
US9489588B2 (en) | Matting method for extracting foreground object and apparatus for performing the matting method | |
KR101028628B1 (ko) | 영상 텍스쳐 필터링 방법, 이를 수행하는 프로그램을 기록한 기록매체 및 이를 수행하는 장치 | |
CN114449181B (zh) | 图像和视频处理方法及其系统、数据处理设备、介质 | |
WO2023226584A1 (zh) | 图像降噪、滤波数据处理方法、装置和计算机设备 | |
US12205249B2 (en) | Intelligent portrait photography enhancement system | |
CN111353955A (zh) | 一种图像处理方法、装置、设备和存储介质 | |
CN103313068B (zh) | 基于灰边缘约束灰世界的白平衡校正图像处理方法及装置 | |
JP6904842B2 (ja) | 画像処理装置、画像処理方法 | |
WO2014008329A1 (en) | System and method to enhance and process a digital image | |
CN115471413A (zh) | 图像处理方法及装置、计算机可读存储介质和电子设备 | |
CN107945119B (zh) | 基于拜耳模式的图像内相关噪声估计方法 | |
CN115222606A (zh) | 图像处理方法、装置、计算机可读介质及电子设备 | |
CN103618904B (zh) | 基于像素的运动估计方法及装置 | |
JP6938282B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN102831583B (zh) | 基于分形分析的图像视频超分辨率与增强方法 | |
CN115034967B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20140326 |