CN104243844A - 图像处理装置、图像处理方法以及电子设备 - Google Patents
图像处理装置、图像处理方法以及电子设备 Download PDFInfo
- Publication number
- CN104243844A CN104243844A CN201310224132.8A CN201310224132A CN104243844A CN 104243844 A CN104243844 A CN 104243844A CN 201310224132 A CN201310224132 A CN 201310224132A CN 104243844 A CN104243844 A CN 104243844A
- Authority
- CN
- China
- Prior art keywords
- image
- image block
- block
- moving image
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Analysis (AREA)
Abstract
本发明提供了图像处理装置、图像处理方法以及电子设备,以克服利用现有的图像处理技术所得到的结果图像的精度低和/或准确度低、以及/或图像质量差的问题。上述装置包括:分块单元,其用于在待处理图像中确定多个图像块;运动图像块确定单元,其用于通过运动估计获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块,其中,上述多个图像与待处理图像是预先针对相同的目标区域所捕获的;以及图像恢复单元,其用于根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。本发明的上述技术能够应用于图像处理领域。
Description
技术领域
本发明涉及图像处理领域,尤其涉及图像处理装置、图像处理方法以及电子设备。
背景技术
在例如图像融合、图像恢复等图像处理技术中,通常需要根据多幅图像来获得某个特定图像。例如,图像融合技术可以通过对多个低动态范围的图像进行融合便可获得一个高动态范围图像。
然而,目前利用上述诸如图像融合或图像恢复等图像处理技术来进行图像处理所得到的结果图像(如融合的图像或恢复的图像等)往往精度较低和/或准确度较低,以及/或图像质量较差。例如,在某些图像中存在运动对象的情况下,通过现有的如图像融合或图像恢复等图像处理技术所得到的结果图像中可能存在鬼影等不利因素,而导致上述结果图像的图像质量较差。
发明内容
在下文中给出了关于本发明的简要概述,以便提供关于本发明的某些方面的基本理解。应当理解,这个概述并不是关于本发明的穷举性概述。它并不是意图确定本发明的关键或重要部分,也不是意图限定本发明的范围。其目的仅仅是以简化的形式给出某些概念,以此作为稍后论述的更详细描述的前序。
鉴于此,本发明提供了图像处理装置、图像处理方法以及电子设备,以至少解决利用现有的图像融合或图像恢复等图像处理技术来进行图像处理时所得到的结果图像的精度低和/或准确度低、以及/或图像质量差的问题。
根据本发明的一个方面,提供了一种图像处理装置,该图像处理装置包括:分块单元,其用于在待处理图像中确定多个图像块;运动图像块确定单元,其用于通过运动估计获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块,其中,上述多个图像与待处理图像是预先针对相同的目标区域所捕获的;以及图像恢复单元,其用于根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。
根据本发明的另一个方面,还提供了一种图像处理方法,该图像处理方法包括:在待处理图像中确定多个图像块;通过运动估计获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块,其中,上述多个图像与待处理图像是预先针对相同的目标区域所捕获的;以及根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。
根据本发明的另一个方面,还提供了一种电子设备,该电子设备包括如上所述的图像处理装置。
根据本发明的又一个方面,还提供了一种存储有机器可读取的指令代码的程序产品,上述程序产品在执行时能够使上述机器执行如上所述的图像处理方法。
此外,根据本发明的其他方面,还提供了一种计算机可读存储介质,其上存储有如上所述的程序产品。
上述根据本发明实施例的图像处理装置、图像处理方法以及电子设备,其利用运动矢量来确定待处理图像中的运动图像块,并基于确定的运动图像块在目标时刻的运动矢量来完成对目标区域在目标时刻的图像的恢复,能够获得至少以下益处之一:提高结果图像的精度和/或准确度;减少结果图像中鬼影的存在;以及改善结果图像的质量。
通过以下结合附图对本发明的最佳实施例的详细说明,本发明的这些以及其他优点将更加明显。
附图说明
本发明可以通过参考下文中结合附图所给出的描述而得到更好的理解,其中在所有附图中使用了相同或相似的附图标记来表示相同或者相似的部件。所述附图连同下面的详细说明一起包含在本说明书中并且形成本说明书的一部分,而且用来进一步举例说明本发明的优选实施例和解释本发明的原理和优点。在附图中:
图1A是示意性地示出根据本发明的实施例的图像处理装置的一种示例结构的框图;
图1B是示出计算运动矢量的一个示例的示意图;
图1C是示出计算两个运动矢量之间的夹角的一个示例的示意图;
图2A是示意性地示出根据本发明的实施例的图像处理装置的另一种示例结构的框图;
图2B是示出调整图像的像素动态范围的一个示例的示意图;
图3是示意性地示出根据本发明的实施例的图像处理装置的又一种示例结构的框图;
图4是示意性地示出根据本发明的实施例的图像处理方法的一种示例性处理的流程图;以及
图5是示出了可用来实现根据本发明的实施例的图像处理装置和图像处理方法的一种可能的信息处理设备的硬件配置的结构简图。
本领域技术人员应当理解,附图中的元件仅仅是为了简单和清楚起见而示出的,而且不一定是按比例绘制的。例如,附图中某些元件的尺寸可能相对于其他元件放大了,以便有助于提高对本发明实施例的理解。
具体实施方式
在下文中将结合附图对本发明的示范性实施例进行描述。为了清楚和简明起见,在说明书中并未描述实际实施方式的所有特征。然而,应该了解,在开发任何这种实际实施例的过程中必须做出很多特定于实施方式的决定,以便实现开发人员的具体目标,例如,符合与系统及业务相关的那些限制条件,并且这些限制条件可能会随着实施方式的不同而有所改变。此外,还应该了解,虽然开发工作有可能是非常复杂和费时的,但对得益于本公开内容的本领域技术人员来说,这种开发工作仅仅是例行的任务。
在此,还需要说明的一点是,为了避免因不必要的细节而模糊了本发明,在附图中仅仅示出了与根据本发明的方案密切相关的装置结构和/或处理步骤,而省略了与本发明关系不大的其他细节。
本发明的实施例提供了一种图像处理装置,该图像处理装置包括:分块单元,其用于在待处理图像中确定多个图像块;运动图像块确定单元,其用于通过运动估计获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块,其中,上述多个图像与待处理图像是预先针对相同的目标区域所捕获的;以及图像恢复单元,其用于根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。
如上文所述,在诸如图像融合或图像恢复等的图像处理技术中,常常根据多幅图像来获得某个特定图像。以图像融合(如曝光融合)为例,其可以将多个低动态范围的图像融合成一个高动态范围图像,而得到的高动态范围图像的对比度和信息往往比任何一个参与融合的低动态范围图像要好。
然而,融合的过程中常常伴随的一个问题是图像区域内物体的局部运动。图像区域内物体的局部运动是指图像内存在某个图像块内的物体在不同图像中对应的位置和/或方向等不同,其会使得融合后图像产生相应的鬼影,从而影响融合后图像的质量。
下面结合图1A来详细描述根据本发明的实施例的图像处理装置的一个示例。
如图1A所示,根据本发明的实施例的图像处理装置100包括分块单元110、运动图像块确定单元120以及图像恢复单元130。
分块单元110首先在待处理图像中确定多个图像块。其中,这里的待处理图像可以是针对某个目标区域所捕获的图像。
在根据本发明的实施例的图像处理装置的一种实现方式中,分块单元110可以利用现有的图像分块技术来对待处理图像进行分块,这样,可以将分块的结果作为待处理图像中的上述“多个图像块”。需要注意的是,图像块之间是相互不覆盖的。此外,图像块例如可以是方块、矩形块等形状。对于本领域的技术人员来说,分块处理是可以根据公知常识和/或结合已有的公开资料所获知的,故这里不再详述描述。
然后,运动图像块确定单元120通过运动估计来获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块。
其中,与待处理图像一样,上述多个图像也是预先针对上述目标区域所捕获的。
在一个例子中,假设预先针对某个目标区域捕获了100幅图像,则可以选取这100幅图像中的某一幅(例如第20幅)图像来作为上述待处理图像,而选取其余99幅(或者该99幅中的预定数量的图像,其中,预定数量可以根据经验值或通过试验的方法来确定)来作为上述多个图像。在一个优选例子中,上述多个图像可以包括曝光时间早于待处理图像的曝光时间的图像和曝光时间晚于待处理图像的曝光时间的图像。
此外,在另一个例子中,上述待处理图像也可以包括在上述多个图像中,即,上述待处理图像可以是上述多个图像中的其中一个。
需要说明的是,“上述多个图像块在多个图像中的运动矢量”包括上述多个图像块中的每一个图像块在多个图像中的每一个图像中的运动矢量。
如图1B所示,图1B右侧的图像LLp表示待处理图像,而图1B左侧的图像LLp,则表示上述多个图像中的任一个图像。此外,BLn表示待处理图像中的任一个图像块,而BL’n则表示图像LLp,中与待处理图像LLp中的图像块BLn最匹配的那个图像块(后面将描述如何确定匹配的图像块)。
如图1B所示,在该例子中,待处理图像LLp是一幅低动态范围图像,其可以被分成很多个不重叠的尺寸相同的块(为了清楚起见,图中未示出所有的块,而仅示出了与描述最为相关的块),尺寸可以是2x2,4x4或者8x8(单位为像素)。其中,待处理图像LLp中的每一个块即上文所说的图像块。下面以图像LLp’和待处理图像LLp中的图像块BLn为例来描述计算运动矢量的一个示例,其他运动矢量的计算可以参考该描述来进行,不再赘述。
类似地,图像LLp’也可以被分成很多个不重叠的尺寸相同的块(图中未示出)。在图像LLp’中,可以确定一个搜索范围,然后可以在这个搜索范围内寻找到与图像块BLn最匹配的块BL’n。其中,最匹配的概念可以是:两个块的绝对误差和最小。例如,可以通过以下方式来确定与图像块BLn最匹配的块:针对在图像LLp’的上述搜索范围内的每个块,可以计算该块与待处理图像LLp中的图像块BLn之间的绝对误差和;然后,将图像LLp’中与待处理图像LLp中的图像块BLn之间的绝对误差和最大的那个块确定为与图像块BLn最匹配的块,记为BL’n。此外,也可以通过其他现有技术来确定最匹配的图像块,这里不再赘述。
假设待处理图像LLp中的图像块BLn左上顶点处(假设图像块均为方块)像素A的坐标为(xA,yB),图像LLp’中的块BL’n左上顶点处像素A’的坐标为(xA’,yB’),则图像块BLn在图像LLp’中的运动矢量可以记为[xA-xA’,yB-yB’]。需要注意的是,图像块BLn在图像LLp’中的运动矢量为[xA-xA’,yB-yB’],而图像块BLn中每个像素均对应于同一个运动矢量即[xA-xA’,yB-yB’]。也就是说,图像块BLn中不同的像素对应的运动矢量是相同的。需要说明的是,运动矢量[xA-xA’,yB-yB’]中的“xA-xA’”表示该运动矢量的端点的x轴坐标,而“yB-yB’”则表示该运动矢量的端点的y轴坐标。
此外,如图1B所示,R表示上述搜索范围。在一个例子中,搜索范围R可以是图像LLp’的整幅图像。在另一个例子中,搜索范围R也可以根据待处理图像LLp中的图像块BLn的位置来确定。例如,搜索范围R可以是以图像块BLn在待处理图像LLp中的坐标为中心的矩形(或方形),该矩形(或方形)的长和宽(或边长)例如可以根据图像块BLn的尺寸来确定(例如长、宽分别为图像块BLn边长的3倍和2倍)。
在根据本发明的实施例的图像处理装置的一种实现方式(下面称为实现方式一)中,为了确定待处理图像的上述多个图像块中哪个或哪些图像块是运动图像块(也即发生了局部运动的图像块),针对上述多个图像块中的每一个,运动图像块确定单元120可以在该图像块在多个图像中的运动矢量中的至少一个运动矢量的分量不为零的情况下,判定该图像块为运动图像块。例如,假设上述多个图像的数量为99,针对待处理图像中的多个图像块中的某个图像块BL1来说,假设图像块BL1对应于上述99个图像的运动矢量分别为mv1、mv2、……、mv99,其中,除mv2之外的其他所有运动矢量的所有分量均为0,而mv2的x分量或y分量不为0,则可以将图像块BL1判定为运动图像块。在这样一个实现方式中,通过上述处理即可以确定待处理图像的多个图像块中哪个或哪些图像块是运动图像块,进而可以在后续处理中将待处理图像中的运动图像块和非运动图像块区分开来,以进行不同的操作或处理,实现对某个曝光时刻的整幅图像的恢复(或融合)。传统技术没有将图像中的运动图像块和非运动图像区分对待,因此使得融合后或恢复后的图像中很可能存在鬼影,图像质量较低;而在本发明的上述实施例中,运动图像块确定单元120通过确定运动图像块(即区分运动图像块和非运动图像块)来使得后续处理中通过对运动图像块和非运动图像块的区别处理而减少鬼影的存在,进而能够使得处理结果的图像质量较高。
在根据本发明的实施例的图像处理装置的另一个实现方式(下面称为实现方式二)中,运动图像块确定单元120所确定的运动图像块可以包括规则运动图像块。其中,运动图像块确定单元120例如可以将这样的图像块确定为规则运动图像块:该图像块在多个图像中的每两个相邻图像中的运动矢量之间的夹角小于第一预定角度。
在一个例子中,第一预定角度可以在[0°,15°]内取值(例如为15°)。需要说明的是,在实际应用中,可以根据经验值或者通过试验的方法来确定上述第一预定角度,这里不再赘述。
这样确定的规则运动图像块表示该规则运动图像块中的对象发生了规则运动,例如,在实际应用中,这样的规则运动图像块中可能包括行走的人或飘动的云,等等。在本发明的实施例中,“在多个图像中的每两个相邻图像中的运动矢量之间的夹角小于第一预定角度”的图像块反映了这个图像块在一定的角度范围内运动。如果第一预定角度取值较小的话,例如接近0o,则根据上述处理所确定的规则运动图像块所对应的对象(如行走的人等)所做的运动是近似直线运动的。因此,在确定规则运动图像块的情况下,能够使得后续的处理针对这种特定的图像块(规则运动图像块)的运动规律来减少诸如鬼影之类的不利因素的存在,从而有望改善处理结果的图像质量。
例如,针对图像块BL1,假设图像块BL1对应于上述99个图像的运动矢量分别为mv1、mv2、……、mv99,那么图像块BL1“在多个图像中的每两个相邻图像中的运动矢量之间的夹角”包括mv1与mv2之间的夹角(记为夹角α1-2)、mv2与mv3之间的夹角(记为夹角α2-3)、mv3与mv4之间的夹角(记为夹角α3-4)、……、mv97与mv98之间的夹角(记为夹角α97-98)、mv98与mv99之间的夹角(记为夹角α98-99),如果夹角α1-2、夹角α2-3、夹角α3-4、……、夹角α97-98和夹角α98-99这98个夹角中的每个夹角都小于第一预定角度(例如15°),则运动图像块确定单元120可以将图像块BL1判定为规则运动图像块。
需要说明的是,在实际应用中,可以直接利用实现方式二中所述的处理方式来确定规则运动图像块,也可以首先进行如上述实现方式一中的处理来先确定待处理图像的多个图像块中的运动图像块,再进一步判定这些运动图像块中哪些是规则运动图像块。
其中,两个运动矢量之间的夹角例如可以通过以下所描述的方式来计算获得。
如图1C所示,在x-y坐标系中(其中,x为横坐标,y为纵坐标)对于任两个运动矢量mva与mvb来说,假设运动矢量mva的端点坐标为(x1,y1),运动矢量mvb的端点坐标为(x2,y2),其中,x1、x2分别为运动矢量mva和mvb的横坐标,而y1、y2分别为运动矢量mva和mvb的纵坐标。此外,假设运动矢量mva与x轴正方向之间的夹角为α,运动矢量mvb与x轴正方向之间的夹角为β,其中,α=arctg(y1/x1),β=arctg(y1/x2)。于是,可以得到运动矢量mva与运动矢量mvb之间的夹角θ=|α-β|=|arctg(y1/x1)-arctg(y1/x2)|。
在根据本发明的实施例的图像处理装置的又一个具体实现方式(下面称为实现方式三)中,运动图像块确定单元120所确定的运动图像块除了包括如上文所述的规则运动图像块之外,还可以包括随机运动图像块。其中,运动图像块确定单元120可以将这样的图像块确定为随机运动图像块:该图像块在多个图像中的至少两个相邻图像中的运动矢量之间的夹角大于或等于第二预定角度,第二预定角度大于或等于第一预定角度。
这样确定的随机运动图像块表示该随机运动图像块中的对象发生了随机运动,例如,在实际应用中,这样的随机运动图像块中可能包括摇曳的树叶等。在确定随机运动图像块的情况下,能够使得后续的处理针对这种特定的图像块(随机运动图像块)的运动规律来改善处理结果的图像质量。尤其在对规则运动图像块、随机运动图像块以及非运动图像块分别区分处理的话,能够分别执行与各自的特征适应的处理,使得处理的精度和/或准确度较高,图像质量也较高。
在一个例子中,第二预定角度在[15°,90°]内取值(例如为15°)。需要说明的是,在实际应用中,可以根据经验值或者通过试验的方法来确定上述第二预定角度,这里不再赘述。
例如,针对待处理图像的多个图像块中的某个图像块BL2,假设图像块BL2对应于上述99个图像(作为上述“多个图像”的示例)的运动矢量分别为mv1’、mv2’、……、mv99’,那么图像块BL2“在多个图像中的每两个相邻图像中的运动矢量之间的夹角”包括mv1’与mv2’之间的夹角(记为夹角α’1-2)、mv2’与mv3’之间的夹角(记为夹角α’2-3)、mv3’与mv4’之间的夹角(记为夹角α’3-4)、……、mv97’与mv98’之间的夹角(记为夹角α’97-98)、mv98’与mv99’之间的夹角(记为夹角α’98-99),如果夹角α’1-2、夹角α’2-3、夹角α’3-4、……、夹角α’97-98和夹角α’98-99这98个夹角中存在至少一个夹角大于第二预定角度(例如15°),则运动图像块确定单元120可以将图像块BL2判定为随机运动图像块。
需要说明的是,在实际应用中,可以直接利用实现方式三中所述的处理方式来确定规则运动图像块和随机运动图像块,也可以首先进行如上述实现方式一中的处理来先确定待处理图像的多个图像块中的运动图像块,再进一步判定这些运动图像块中哪些是规则运动图像块以及哪些是随机运动图像块。
此外,在根据本发明的实施例的图像处理装置的另一种实现方式中,通过上面的实现方式一、二或三中的处理,可以确定上述多个图像块中的运动图像块(或确定规则运动图像块;或确定规则运动图像块和随机运动图像块),则其余的图像块没有被确定为运动图像块。对于这些没有被确定为运动图像块的图像块(下面称为非运动图像块)来说,如果某个非运动图像块的所有周围相邻图像块都是运动图像块的话,则运动图像块确定单元120可以将这个非运动图像块更新为运动图像块(即将这个图像块重新确定为运动图像块)。其中,某个图像块的相邻图像块是指具有与该图像块中的某个或某些像素相邻的像素的图像块,例如,图像块BL1中的像素PBL1与图像块BL2中的像素PBL2是相邻的像素,则图像块BL1与图像块BL2为相邻图像块。
在实际应用中,对图像中一些没有纹理的运动物体(图像块)进行运动估计的时候,常常会形成空洞现象。在上述实现方式中,运动图像块确定单元120通过将被运动图像块包围的非运动图像块进行调整,将其重新确定为运动图像块,则能够有效弥补上述缺陷(空洞现象)。
图像恢复单元130用于根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。
在根据本发明的实施例的图像处理装置的一种实现方式中,这里所说的目标时刻是上述多个图像的曝光时间范围内的某个时刻。例如,上述多个图像的所有曝光时间中的最早时间和最晚时间可以构成一个时间范围,则目标时刻可以是这个时间范围中的某个时间。
此外,在根据本发明的实施例的图像处理装置的一种实现方式(以下称为实现方式四)中,在运动图像块确定单元120所确定的运动图像块包括规则运动图像块的情况下,图像恢复单元130可以在多个图像中选择两个图像,其中,所选择的这两个图像中的一个图像的曝光时间位于目标时刻之前,而这两个图像中的另一个图像的曝光时间位于目标时刻之后。这样,根据目标时刻与这两个图像的曝光时间之间的关系,并利用规则运动图像块在两个图像中的运动矢量,则可以获得规则运动图像块在目标时刻的运动矢量。
举例来说,假设目标时刻为t0,图像恢复单元130所选择的两个图像的曝光时间分别为ta和tb,其中,ta早于t0,而tb晚于t0。以某个规则运动图像块BL0为例,假设规则运动图像块BL0在ta时刻的图像中的运动矢量为mv_ta,而规则运动图像块BL0在tb时刻的图像中的运动矢量为mv_tb。其中,mv_ta例如用[xa,ya]表示,xa表示运动矢量mv_ta端点的x轴坐标,ya表示运动矢量mv_ta端点的y轴坐标,mv_tb例如用[xb,yb]表示,xb表示运动矢量mv_tb端点的x轴坐标,yb表示运动矢量mv_tb端点的y轴坐标。于是,根据t0与ta和tb之间的比例关系,可以分别得到规则运动图像块BL0在t0时刻图像中的运动矢量的端点的x轴坐标和y轴坐标。例如,规则运动图像块BL0在t0时刻图像中的运动矢量的端点的x轴坐标可以根据如下的公式一来计算,而规则运动图像块BL0在t0时刻图像中的运动矢量的端点的y轴坐标则可以根据如下的公式二来计算。
公式一:(x0-xa)/(xb-xa)=(t0-ta)/(tb-ta)
公式二:(y0-ya)/(yb-ya)=(t0-ta)/(tb-ta)
在一个例子(以下称为例子一)中,在运动图像块确定单元120所确定的运动图像块仅包括规则运动图像块的情况下,在通过例如实现方式四中所描述的处理得到规则运动图像块在目标时刻的运动矢量之后,图像恢复单元130可以基于规则运动图像块在目标时刻的运动矢量以及多个图像对应的相机反应函数,利用上述多个图像对目标时刻的图像中与规则运动图像块对应的部分进行恢复。
在一个实现方式中,在利用上述多个图像对目标时刻的图像中与规则运动图像块对应的部分进行恢复的过程中,图像恢复单元130可以首先利用上述待处理图像、根据规则运动图像块在目标时刻的运动矢量,来得到目标时刻的图像中与规则运动图像块对应的部分中的各个像素的像素初值;然后,图像恢复单元130可以利用获得的目标时刻的图像中与规则运动图像块对应的部分中的各个像素的像素初值、以及上述多个图像中的相应像素的像素值,并根据相机反应函数,来最终计算得到目标时刻的图像中与规则运动图像块对应的部分中的各个像素的像素值。
例如,图像恢复单元130可以根据如下的公式三来计算获得目标时刻的图像中的、与规则运动图像块对应的部分中的各个像素的像素值。
公式三:
需要说明的是,Am-regular表示目标时刻的图像中的、与待处理图像中的规则运动图像块对应的那部分(以下简称为“目标时刻的图像中的块Am-regular”)。(i,j)表示目标时刻的图像中的块Am-regular中的每个像素的坐标。
此外,在公式三中,当k=1,2,3,……,N时,Zi,j,k表示上述多个图像中的第k个图像中的像素(i,j)的像素值,tk表示第k个图像所对应的曝光时间;而当k=N+1时,Zi,j,k(即Zi,j,N+1)表示目标时刻的图像中的像素(i,j)的像素初值,tk(即tN+1)表示目标时刻的图像的曝光时间(即目标时刻)。Ei,j表示恢复后的目标时刻的图像中的像素(i,j)的像素值。w(.)为权重函数,其可以根据如下的公式四来获得。
公式四:
在公式四中,Zmax表示上述多个图像(即N个图像)中的像素(i,j)共计N个像素中的最大像素值,而Zmin则表示上述多个图像(即N个图像)中的像素(i,j)共计N个像素中的最小像素值。
此外,f(.)为相机反映函数,其可以根据如下文献一获知:P.Debevecand J.Malik,“Recovering high dynamic range radiance maps fromphotographs”in Proc.ACM SIGGRAPH,pp.369–378,Los Angeles,CA,Aug.1997。
另外,公式三中的Zi,j,N+1可以根据如下的公式五来获得。
公式五:
其中,p0对应的图像为待处理图像(待处理图像例如为上述多个图像中的其中一个,即,p0是1~N中的其中一个)。mvx表示规则运动图像块在目标时刻tN+1时的运动矢量在x轴上的分量(即横坐标分量),mvy表示规则运动图像块在目标时刻tN+1时的运动矢量在y轴上的分量(即纵坐标分量)。由此,表示待处理图像中的像素(i+mvx,j+mvy)的像素值。
这样,就得到了恢复后的目标时刻的图像中与规则运动图像块对应的部分中的每个像素的像素值。
此外,对于目标时刻的图像中除与规则运动图像块对应的部分之外的部分(相当于与非运动图像块对应的部分),图像恢复单元130可以利用与现有技术相类似的方法(如图像融合技术)来进行处理,以便得到整个目标区域在目标时刻的完整图像。例如,可以参考上述文献一来实现对目标时刻的图像中与非运动图像块对应的部分的恢复。此外,图像恢复单元130所利用的相机反应函数也可以参考上述文献来获得和计算。
由此,在上述处理中,充分地考虑了规则运动图像块的特征,并对规则运动图像块和非运动图像块采取了不同的恢复(或融合)处理,因此能够提高处理精度和/或准确度。在这种情况下,所恢复(或融合)的图像的质量也较高。
在另一个例子(以下称为例子二)中,在运动图像块确定单元120所确定的运动图像块包括规则运动图像块和随机运动图像块的情况下,图像恢复单元130除了可以利用上述例子一中所描述的处理来对目标时刻的图像中与规则运动图像块对应的部分进行恢复之外,还可以对目标时刻的图像中与随机运动图像块对应的部分进行恢复。
在例子二中,图像恢复单元130例如可以选择多个图像中的中度曝光图像,以基于多个图像对应的相机反应函数并利用中度曝光图像来对目标时刻的图像中与随机运动图像块对应的部分进行恢复。
其中,这里所述的中度曝光图像是指在上述多个图像中的曝光度适中的图像(比如介于最高曝光度和最低曝光度的中间值或中间值附近的曝光度的图像)。例如,可以在上述多个图像中选择曝光时间较为适中的图像(如介于最长曝光时间和最短曝光时间的中间或中间附近的那个图像)作为中度曝光图像。
在一个实现方式中,图像恢复单元130可以根据如下的公式六来获得。
公式六:
在公式六中,Am-random表示目标时刻的图像中的、与待处理图像中的随机运动图像块对应的那部分(以下简称为“目标时刻的图像中的块Am-random”)。(i′,j′)表示目标时刻的图像中的块Am-random中的每个像素的坐标。其中,k0对应的图像(即上述多个图像中的第k0个图像,k0在1-N之间)是上述多个图像中的中度曝光图像,是上述第k0个图像中的像素(i′,j′)的像素值。Ei',j'表示恢复后的目标时刻的图像中的像素(i′,j′)的像素值。表示上述多个图像中的第k0个图像的曝光时间。表示对应的权重,可以根据如下的公式七来计算。
公式七:
在公式七中,表示上述多个图像(即N个图像)中的像素(i′,j′)共计N个像素中的最大像素值,而则表示上述多个图像(即N个图像)中的像素(i′,j′)共计N个像素中的最小像素值。公式七中的f(.)可以参考公式四及上述文献一来获得。
这样,就得到了恢复后的目标时刻的图像中与随机运动图像块对应的部分中的每个像素的像素值。
除此之外,在例子二中,对于目标时刻的图像中除与规则运动图像块对应的部分和与随机运动图像块对应的部分之外的部分,图像恢复单元130可以利用与现有技术相类似的方法(如图像融合技术)来进行处理(例如与例子一中的对应处理相类似),以便得到整个目标区域在目标时刻的完整图像。
在例子二的处理中,考虑了随机运动图像块的特征,并对随机运动图像块、规则运动图像块和非运动图像块采取了不同的恢复(或融合)处理,因此能够提高处理精度和/或准确度。在这种情况下,所恢复(或融合)的图像的质量也较高。
通过以上描述可知,上述根据本发明实施例的图像处理装置,利用运动矢量来确定待处理图像中的运动图像块,并基于确定的运动图像块在目标时刻的运动矢量来完成对目标区域在目标时刻的图像的恢复。上述根据本发明实施例的图像处理装置不同于传统的图像融合等图像处理技术,其通过对运动图像块的特定处理,能够改善现有技术所得到的结果图像中可能存在的鬼影等问题,能够提高结果图像的精度和/或准确度,和/或改善结果图像的质量。
下面结合图2A来描述根据本发明的实施例的图像处理装置的另一个示例。
在如图2A所示的例子中,图像处理装置200除了包括分块单元210、运动图像块确定单元220以及图像恢复单元230之外,还包括用于将多个图像和待处理图像对齐的对齐单元240。其中,图2A所示的图像处理装置200中的分块单元210、运动图像块确定单元220以及图像恢复单元230可以分别具有与上文中结合图1A所描述的图像处理装置100中的分块单元110、运动图像块确定单元120以及图像恢复单元130相同的结构和功能,并能够达到相类似的技术效果,这里不再赘述。
其中,在分块单元210执行处理之前,对齐单元240可以根据多个图像块在多个图像中的运动矢量,获得多个图像的全局运动矢量,以将待处理图像和多个图像对齐。
在根据本发明的实施例的图像处理装置的一个实现方式中,对齐单元240可以通过以下描述的方式来获得上述多个图像中的每个图像对应的全局运动矢量。以上述多个图像中的某个图像LLp’为例,假设待处理图像用LLp来表示,待处理图像中的多个图像块分别为BL1、BL2、……、BLx(x为正整数),分别确定图像块BL1、BL2、……、BLx各自在图像LLp’中的运动矢量,即x个运动矢量,假设分别记为mvBL1、mvBL2、……、mvBLx,则将mvBL1、mvBL2、……、mvBLx中重复出现次数最多(或出现频率最大)的那个运动矢量确定为图像LLp’对应的全局运动矢量。多个图像中的其他图像对应的全局运动矢量可以采用与之类似的方式获得,这里不再赘述。
这样,通过在分块单元210执行处理之前来利用对齐单元240将待处理图像和多个图像对齐,能够利于分块单元210、运动图像块确定单元220以及图像恢复单元230的后续处理和操作,以及是后续处理和操作的结果更加准确。
在一个例子中,对于上述多个图像中的每个图像来说,在获得待处理图像的上述多个图像块在该图像中的所有运动矢量之后,可以通过建立“待处理图像的上述多个图像块在该图像中的所有运动矢量”对应的运动矢量直方图(例如横轴表示运动矢量,纵轴表示每个运动矢量的重复出现次数(或频率)),来在该运动矢量直方图中找到那个重复出现次数(或频率)最高的运动矢量,作为该图像对应的全局运动矢量。
此外,在一个例子中,假设针对目标区域所捕获的待处理图像和上述多个图像共有Nl幅,获得这Nl幅图像中的最大像素值Pmax和最小像素值Pmin。然后,将这Nl幅图像各自的像素动态范围分别调整到[Pmin,Pmax]上。以这Nl幅图像中的某个图像为例,假设该图像调整前的像素动态范围为[Pmin(p),Pmax(p)],而该图像调整后的像素动态范围为[Pmin,Pmax],其对应关系如图2B所示。需要说明的是,对于本领域的技术人员来说,可以根据公知常识和/或结合公开材料来获知用于像素动态范围调整的技术,故这里将不再详述描述。
当将这Nl幅图像各自的像素动态范围都调整到[Pmin,Pmax]上之后,并通过根据每个图像对应的全局运动矢量来调整该图像的位移等来进而调整该图像的尺寸,将Nl幅图像的尺寸调整一致之后,即可实现对这N1幅图像的对齐。
下面结合图3来详细描述根据本发明的实施例的图像处理装置的又一个示例。
在如图3所示的例子中,图像处理装置300除了包括分块单元310、运动图像块确定单元320、图像恢复单元330和对齐单元340之外,还包括用于对运动矢量的进行更新的运动矢量更新单元350。其中,图3所示的图像处理装置300中的分块单元310、运动图像块确定单元320和图像恢复单元330可以具有与上文中结合图1A所描述的图像处理装置100中的分块单元110、运动图像块确定单元120以及图像恢复单元130相同的结构和功能,对齐单元340可以具有与上文中结合图2A所描述的图像处理装置200中的对齐单元240相同的结构和功能,并分别能够达到相类似的技术效果,这里不再赘述。
运动矢量更新单元350可以针对多个图像块中的每一个在对齐的多个图像中的每一个中的运动矢量,利用该运动矢量减去对应的全局运动矢量得到的差矢量来替换该运动矢量,以实现对该运动矢量的更新。
在根据本发明的实施例的图像处理装置的一个实现方式中,运动矢量更新单元350可以利用全局运动矢量来对上述“多个图像块在多个图像中的运动矢量”进行更新,例如,可以参考以下公式八来进行更新。
公式八:mvpi′=mvpi-globalmvpi
在公式八中,mvpi表示mvBL1、mvBL2、……、mvBLx中的第pi个运动矢量修正前的值,其中,pi=1,2,…,x,mvpi表示mvBL1、mvBL2、……、mvBLx中的第pi个运动矢量修正后的值,globalmvpi表示第pi个运动矢量对应的全局运动矢量(即第pi个运动矢量在上述多个图像中对应的那个图像所对应的全局运动矢量)。
在实际应用中,除局部运动之外,在例如图像融合等处理的过程中可能伴随的另一个问题则是全局运动。全局运动反映了由于手持设备(如相机等)的抖动而引起的运动,这也会影响融合后图像的质量。一般地,由于全局运动的存在可能会导致图像整体地发生移动。因此,通过运动矢量更新单元350的处理,可以有效地对全局运动所带来的图像质量损害进行补偿,进而使得后续的处理精度和/或准确度有所提高,以及改善结果图像的质量。
此外,本发明的实施例还提供了一种图像处理方法,该图像处理方法包括:在待处理图像中确定多个图像块;通过运动估计获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块,其中,上述多个图像与待处理图像是预先针对相同的目标区域所捕获的;以及根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。
下面结合图4来描述上述图像处理方法的一种示例性处理。
如图4所示,根据本发明的实施例的图像处理方法的处理流程400开始于步骤S410,然后执行步骤S420。
在步骤S420中,在待处理图像中确定多个图像块。然后执行步骤S430。其中,步骤S420中所执行的处理例如可以与上文中结合图1A所描述的分块单元110的处理相同,并能够达到类似的技术效果,在此不再赘述。
在步骤S430中,通过运动估计获得上述多个图像块在多个图像中的运动矢量,以确定上述多个图像块中的运动图像块,其中,上述多个图像与待处理图像是预先针对相同的目标区域所捕获的。然后执行步骤S440。
在一个实现方式中,运动图像块可以包括上文所述的规则运动图像块。在另一个实现方式中,运动图像块可以包括上文所述的规则运动图像块和随机运动图像块。其中,规则运动图像块和随机运动图像块的描述和举例可以参考上文描述,这里不再赘述。
其中,步骤S430中所执行的处理例如可以与上文中结合图1A所描述的运动图像块确定单元120的处理相同,并能够达到类似的技术效果,在此不再赘述。
在步骤S440中,根据运动图像块在上述多个图像中的运动矢量中的至少部分,确定运动图像块中的至少一个在目标时刻的运动矢量,以恢复目标区域在目标时刻的图像。然后执行步骤S450。
在一个实现方式中,在运动图像块包括规则运动图像块的情况下,在步骤S440中可以执行如下处理:在多个图像中确定两个图像,使得两个图像的曝光时间分别位于目标时刻之前和之后;以及根据目标时刻与两个图像的曝光时间之间的关系,利用规则运动图像块在两个图像中的运动矢量来获得规则运动图像块在目标时刻的运动矢量。在这种情况下,在步骤S440中例如还可以执行如下处理:基于规则运动图像块在目标时刻的运动矢量以及多个图像对应的相机反应函数,利用多个图像对目标时刻的图像中与规则运动图像块对应的部分进行恢复。
在另一个实现方式中,在运动图像块包括规则运动图像块和随机运动图像块的情况下,在步骤S440中除了可以执行如上所述的获得规则运动图像块在目标时刻的运动矢量的处理之外,还可以执行如下处理:选择多个图像中的中度曝光图像,基于多个图像对应的相机反应函数并利用中度曝光图像,对目标时刻的图像中与随机运动图像块对应的部分进行恢复。
其中,步骤S440中所执行的处理例如可以与上文中结合图1A所描述的图像恢复单元130的处理相同,并能够达到类似的技术效果,在此不再赘述。
处理流程400结束于步骤S450。
需要说明的是,在上述根据本发明实施例的图像处理方法的具体处理中,其各个步骤、子步骤可以分别采用与上文中结合图1-图3中任一个所描述的图像处理装置中的对应的单元、子单元或者模块的处理相同的处理,并能够达到相类似的功能和效果,这里不再一一赘述。
通过以上描述可知,上述根据本发明实施例的图像处理方法,利用运动矢量来确定待处理图像中的运动图像块,并基于确定的运动图像块在目标时刻的运动矢量来完成对目标区域在目标时刻的图像的恢复。上述根据本发明实施例的图像处理方法不同于传统的图像融合等图像处理技术,其通过对运动图像块的特定处理,能够改善现有技术所得到的结果图像中可能存在的鬼影等问题,能够提高结果图像的精度和/或准确度,和/或改善结果图像的质量。
此外,本发明的实施例还提供了一种电子设备,该电子设备包括如上所述的图像处理装置。在根据本发明的实施例的上述电子设备的具体实现方式中,上述电子设备可以是以下设备中的任意一种设备:计算机;平板电脑;个人数字助理;多媒体播放设备;手机以及电纸书等等。其中,该电子设备具有上述图像处理装置的各种功能和技术效果,这里不再赘述。
上述根据本发明的实施例的图像处理装置中的各个组成单元、子单元、模块等可以通过软件、固件、硬件或其任意组合的方式进行配置。在通过软件或固件实现的情况下,可从存储介质或网络向具有专用硬件结构的机器(例如图5所示的通用机器500)安装构成该软件或固件的程序,该机器在安装有各种程序时,能够执行上述各组成单元、子单元的各种功能。
图5是示出了可用来实现根据本发明的实施例的图像处理装置和图像处理方法的一种可能的信息处理设备的硬件配置的结构简图。
在图5中,中央处理单元(CPU)501根据只读存储器(ROM)502中存储的程序或从存储部分508加载到随机存取存储器(RAM)503的程序执行各种处理。在RAM503中,还根据需要存储当CPU501执行各种处理等等时所需的数据。CPU501、ROM502和RAM503经由总线504彼此连接。输入/输出接口505也连接到总线504。
下述部件也连接到输入/输出接口505:输入部分506(包括键盘、鼠标等等)、输出部分507(包括显示器,例如阴极射线管(CRT)、液晶显示器(LCD)等,和扬声器等)、存储部分508(包括硬盘等)、通信部分509(包括网络接口卡例如LAN卡、调制解调器等)。通信部分509经由网络例如因特网执行通信处理。根据需要,驱动器510也可连接到输入/输出接口505。可拆卸介质511例如磁盘、光盘、磁光盘、半导体存储器等等可以根据需要被安装在驱动器510上,使得从中读出的计算机程序可根据需要被安装到存储部分508中。
在通过软件实现上述系列处理的情况下,可以从网络例如因特网或从存储介质例如可拆卸介质511安装构成软件的程序。
本领域的技术人员应当理解,这种存储介质不局限于图5所示的其中存储有程序、与设备相分离地分发以向用户提供程序的可拆卸介质511。可拆卸介质511的例子包含磁盘(包含软盘)、光盘(包含光盘只读存储器(CD-ROM)和数字通用盘(DVD))、磁光盘(包含迷你盘(MD)(注册商标))和半导体存储器。或者,存储介质可以是ROM502、存储部分508中包含的硬盘等等,其中存有程序,并且与包含它们的设备一起被分发给用户。
此外,本发明还提出了一种存储有机器可读取的指令代码的程序产品。上述指令代码由机器读取并执行时,可执行上述根据本发明的实施例的图像处理方法。相应地,用于承载这种程序产品的例如磁盘、光盘、磁光盘、半导体存储器等的各种存储介质也包括在本发明的公开中。
在上面对本发明具体实施例的描述中,针对一种实施方式描述和/或示出的特征可以以相同或类似的方式在一个或更多个其它实施方式中使用,与其它实施方式中的特征相组合,或替代其它实施方式中的特征。
此外,本发明的各实施例的方法不限于按照说明书中描述的或者附图中示出的时间顺序来执行,也可以按照其他的时间顺序、并行地或独立地执行。因此,本说明书中描述的方法的执行顺序不对本发明的技术范围构成限制。
此外,显然,根据本发明的上述方法的各个操作过程也可以以存储在各种机器可读的存储介质中的计算机可执行程序的方式实现。
而且,本发明的目的也可以通过下述方式实现:将存储有上述可执行程序代码的存储介质直接或者间接地提供给系统或设备,并且该系统或设备中的计算机或者中央处理单元(CPU)读出并执行上述程序代码。
此时,只要该系统或者设备具有执行程序的功能,则本发明的实施方式不局限于程序,并且该程序也可以是任意的形式,例如,目标程序、解释器执行的程序或者提供给操作系统的脚本程序等。
上述这些机器可读存储介质包括但不限于:各种存储器和存储单元,半导体设备,磁盘单元例如光、磁和磁光盘,以及其它适于存储信息的介质等。
另外,客户计算机通过连接到因特网上的相应网站,并且将依据本发明的计算机程序代码下载和安装到计算机中然后执行该程序,也可以实现本发明。
最后,还需要说明的是,在本文中,诸如左和右、第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
综上,在根据本发明的实施例中,本发明提供了如下方案但不限于此:
附记1.一种图像处理装置,包括:
分块单元,其用于在待处理图像中确定多个图像块;
运动图像块确定单元,其用于通过运动估计获得所述多个图像块在多个图像中的运动矢量,以确定所述多个图像块中的运动图像块,其中,所述多个图像与所述待处理图像是预先针对相同的目标区域所捕获的;以及
图像恢复单元,其用于根据所述运动图像块在所述多个图像中的运动矢量中的至少部分,确定所述运动图像块中的至少一个在目标时刻的运动矢量,以恢复所述目标区域在所述目标时刻的图像。
附记2.根据附记1所述的图像处理装置,其中,所述运动图像块确定单元所确定的运动图像块包括规则运动图像块,所述规则运动图像块在所述多个图像中的每两个相邻图像中的运动矢量之间的夹角小于第一预定角度。
附记3.根据附记2所述的图像处理装置,其中,所述第一预定角度在[0°,15°]内。
附记4.根据附记2或3所述的图像处理装置,其中,所述图像恢复单元用于:
在所述多个图像中确定两个图像,使得所述两个图像的曝光时间分别位于所述目标时刻之前和之后,以根据所述目标时刻与所述两个图像的曝光时间之间的关系并利用所述规则运动图像块在所述两个图像中的运动矢量,获得所述规则运动图像块在所述目标时刻的运动矢量。
附记5.根据附记4所述的图像处理装置,其中,所述图像恢复单元还用于:
基于所述规则运动图像块在所述目标时刻的运动矢量以及所述多个图像对应的相机反应函数,利用所述多个图像对所述目标时刻的图像中与所述规则运动图像块对应的部分进行恢复。
附记6.根据附记2-5中任一项所述的图像处理装置,其中,所述运动图像块确定单元所确定的运动图像块还包括随机运动图像块,所述随机运动图像块在所述多个图像中的至少两个相邻图像中的运动矢量之间的夹角大于或等于第二预定角度,所述第二预定角度大于或等于所述第一预定角度。
附记7.根据附记6所述的图像处理装置,其中,所述第二预定角度在[15o,90o]内。
附记8.根据附记6或7所述的图像处理装置,其中,所述图像恢复单元还用于:
选择所述多个图像中的中度曝光图像,基于所述多个图像对应的相机反应函数并利用所述中度曝光图像,对所述目标时刻的图像中与所述随机运动图像块对应的部分进行恢复。
附记9.根据附记1-8中任一项所述的图像处理装置,其中,所述运动图像块确定单元用于:
针对所述多个图像块中的每一个,在该图像块在所述多个图像中的运动矢量中的至少一个运动矢量的分量不为零的情况下,判定该图像块为运动图像块。
附记10.根据附记1-9中任一项所述的图像处理装置,还包括:
对齐单元,其用于根据所述多个图像块在所述多个图像中的运动矢量,获得所述多个图像的全局运动矢量,以将所述待处理图像和所述多个图像对齐。
附记11.根据附记10所述的图像处理装置,还包括:
运动矢量更新单元,其用于针对所述多个图像块中的每一个在对齐的所述多个图像中的每一个中的运动矢量,利用该运动矢量减去对应的全局运动矢量得到的差矢量来替换该运动矢量,以实现对该运动矢量的更新。
附记12.根据附记1-11中任一项所述的图像处理装置,其中,所述运动图像块确定单元还用于:
针对所述多个图像块中未被确定为运动图像块的每个图像块,在该图像块的所有周围相邻图像块都是运动图像块的情况下,将该图像块更新为运动图像块。
附记13.一种图像处理方法,包括:
在待处理图像中确定多个图像块;
通过运动估计获得所述多个图像块在多个图像中的运动矢量,以确定所述多个图像块中的运动图像块,其中,所述多个图像与所述待处理图像是预先针对相同的目标区域所捕获的;以及
根据所述运动图像块在所述多个图像中的运动矢量中的至少部分,确定所述运动图像块中的至少一个在目标时刻的运动矢量,以恢复所述目标区域在所述目标时刻的图像。
附记14.根据附记13所述的图像处理方法,其中,所述运动图像块包括规则运动图像块,所述规则运动图像块在所述多个图像中的每两个相邻图像中的运动矢量之间的夹角小于第一预定角度。
附记15.根据附记13或14所述的图像处理方法,其中,确定所述运动图像块中的至少一个在目标时刻的运动矢量的步骤包括:
在所述多个图像中确定两个图像,使得所述两个图像的曝光时间分别位于所述目标时刻之前和之后;以及
根据所述目标时刻与所述两个图像的曝光时间之间的关系,利用所述规则运动图像块在所述两个图像中的运动矢量来获得所述规则运动图像块在所述目标时刻的运动矢量。
附记16.根据附记15所述的图像处理方法,其中,恢复所述目标区域在所述目标时刻的图像的步骤包括:
基于所述规则运动图像块在所述目标时刻的运动矢量以及所述多个图像对应的相机反应函数,利用所述多个图像对所述目标时刻的图像中与所述规则运动图像块对应的部分进行恢复。
附记17.一种电子设备,包括如附记1-12中任一所述的图像处理装置。
附记18.根据附记17所述的电子设备,其中,所述电子设备是以下设备中的任意一种:
计算机;平板电脑;个人数字助理;多媒体播放设备;手机以及电纸书。
附记19.一种存储有机器可读取的指令代码的程序产品,所述程序产品在执行时能够使所述机器执行根据权利要求13-16中任一所述的图像处理方法。
附记20.一种计算机可读存储介质,其上存储有根据附记19所述的程序产品。
Claims (10)
1.一种图像处理装置,包括:
分块单元,其用于在待处理图像中确定多个图像块;
运动图像块确定单元,其用于通过运动估计获得所述多个图像块在多个图像中的运动矢量,以确定所述多个图像块中的运动图像块,其中,所述多个图像与所述待处理图像是预先针对相同的目标区域所捕获的;以及
图像恢复单元,其用于根据所述运动图像块在所述多个图像中的运动矢量中的至少部分,确定所述运动图像块中的至少一个在目标时刻的运动矢量,以恢复所述目标区域在所述目标时刻的图像。
2.根据权利要求1所述的图像处理装置,其中,所述运动图像块确定单元所确定的运动图像块包括规则运动图像块,所述规则运动图像块在所述多个图像中的每两个相邻图像中的运动矢量之间的夹角小于第一预定角度。
3.根据权利要求2所述的图像处理装置,其中,所述第一预定角度在[0°,15°]内。
4.根据权利要求2或3所述的图像处理装置,其中,所述图像恢复单元用于:在所述多个图像中确定两个图像,使得所述两个图像的曝光时间分别位于所述目标时刻之前和之后,以根据所述目标时刻与所述两个图像的曝光时间之间的关系并利用所述规则运动图像块在所述两个图像中的运动矢量,获得所述规则运动图像块在所述目标时刻的运动矢量。
5.根据权利要求4所述的图像处理装置,其中,所述图像恢复单元还用于:
基于所述规则运动图像块在所述目标时刻的运动矢量以及所述多个图像对应的相机反应函数,利用所述多个图像对所述目标时刻的图像中与所述规则运动图像块对应的部分进行恢复。
6.根据权利要求2-5中任一项所述的图像处理装置,其中,所述运动图像块确定单元所确定的运动图像块还包括随机运动图像块,所述随机运动图像块在所述多个图像中的至少两个相邻图像中的运动矢量之间的夹角大于或等于第二预定角度,所述第二预定角度大于或等于所述第一预定角度。
7.根据权利要求6所述的图像处理装置,其中,所述图像恢复单元还用于:
选择所述多个图像中的中度曝光图像,基于所述多个图像对应的相机反应函数并利用所述中度曝光图像,对所述目标时刻的图像中与所述随机运动图像块对应的部分进行恢复。
8.根据权利要求1-7中任一项所述的图像处理装置,其中,所述运动图像块确定单元还用于:
针对所述多个图像块中未被确定为运动图像块的每个图像块,在该图像块的所有周围相邻图像块都是运动图像块的情况下,将该图像块更新为运动图像块。
9.一种图像处理方法,包括:
在待处理图像中确定多个图像块;
通过运动估计获得所述多个图像块在多个图像中的运动矢量,以确定所述多个图像块中的运动图像块,其中,所述多个图像与所述待处理图像是预先针对相同的目标区域所捕获的;以及
根据所述运动图像块在所述多个图像中的运动矢量中的至少部分,确定所述运动图像块中的至少一个在目标时刻的运动矢量,以恢复所述目标区域在所述目标时刻的图像。
10.一种电子设备,包括如权利要求1-8中任一项所述的图像处理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310224132.8A CN104243844A (zh) | 2013-06-06 | 2013-06-06 | 图像处理装置、图像处理方法以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310224132.8A CN104243844A (zh) | 2013-06-06 | 2013-06-06 | 图像处理装置、图像处理方法以及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104243844A true CN104243844A (zh) | 2014-12-24 |
Family
ID=52231097
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310224132.8A Pending CN104243844A (zh) | 2013-06-06 | 2013-06-06 | 图像处理装置、图像处理方法以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104243844A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107507160A (zh) * | 2017-08-22 | 2017-12-22 | 努比亚技术有限公司 | 一种图像融合方法、终端及计算机可读存储介质 |
CN111145108A (zh) * | 2019-12-06 | 2020-05-12 | Oppo广东移动通信有限公司 | 一种图像处理方法、装置、设备及存储介质 |
WO2022228196A1 (zh) * | 2021-04-26 | 2022-11-03 | 华为技术有限公司 | 一种视频处理方法及相关装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0713342A2 (en) * | 1994-11-18 | 1996-05-22 | Canon Kabushiki Kaisha | Color image sensing apparatus and method of expanding dynamic range |
CN101668125A (zh) * | 2008-09-03 | 2010-03-10 | 索尼株式会社 | 成像装置、固态成像器件、图像处理装置、方法和程序 |
CN102668545A (zh) * | 2009-12-22 | 2012-09-12 | 伊斯曼柯达公司 | 采用静态图像和预览图像创建高动态范围图像 |
CN102984460A (zh) * | 2011-07-14 | 2013-03-20 | 索尼公司 | 图像处理设备和方法、学习设备和方法、程序及记录介质 |
-
2013
- 2013-06-06 CN CN201310224132.8A patent/CN104243844A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0713342A2 (en) * | 1994-11-18 | 1996-05-22 | Canon Kabushiki Kaisha | Color image sensing apparatus and method of expanding dynamic range |
CN101668125A (zh) * | 2008-09-03 | 2010-03-10 | 索尼株式会社 | 成像装置、固态成像器件、图像处理装置、方法和程序 |
CN102668545A (zh) * | 2009-12-22 | 2012-09-12 | 伊斯曼柯达公司 | 采用静态图像和预览图像创建高动态范围图像 |
CN102984460A (zh) * | 2011-07-14 | 2013-03-20 | 索尼公司 | 图像处理设备和方法、学习设备和方法、程序及记录介质 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107507160A (zh) * | 2017-08-22 | 2017-12-22 | 努比亚技术有限公司 | 一种图像融合方法、终端及计算机可读存储介质 |
CN111145108A (zh) * | 2019-12-06 | 2020-05-12 | Oppo广东移动通信有限公司 | 一种图像处理方法、装置、设备及存储介质 |
WO2022228196A1 (zh) * | 2021-04-26 | 2022-11-03 | 华为技术有限公司 | 一种视频处理方法及相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10187546B2 (en) | Method and device for correcting document image captured by image pick-up device | |
US9946954B2 (en) | Determining distance between an object and a capture device based on captured image data | |
US20160267349A1 (en) | Methods and systems for generating enhanced images using multi-frame processing | |
US10558881B2 (en) | Parallax minimization stitching method and apparatus using control points in overlapping region | |
US9697587B2 (en) | Adaptive path smoothing for video stabilization | |
US9171359B1 (en) | Method and system for auto-correcting perspective distortion in document images | |
CN104239882B (zh) | 图像相似度确定装置和方法以及图像特征获取装置和方法 | |
US9256922B2 (en) | Applying super resolution for quality improvement of OCR processing | |
US9798612B1 (en) | Artifact correction using neural networks | |
US11551388B2 (en) | Image modification using detected symmetry | |
US11514645B2 (en) | Electronic device for providing visual localization based on outdoor three-dimension map information and operating method thereof | |
US10007680B2 (en) | Content collection search with robust content matching | |
Zhu et al. | Image mosaic method based on SIFT features of line segment | |
CN111461113A (zh) | 一种基于变形平面物体检测网络的大角度车牌检测方法 | |
CN103839059B (zh) | 用于提取文档图像中的文档边界的装置、方法及电子设备 | |
CN114298902A (zh) | 一种图像对齐方法、装置、电子设备和存储介质 | |
CN110827301A (zh) | 用于处理图像的方法和装置 | |
CN104243844A (zh) | 图像处理装置、图像处理方法以及电子设备 | |
CN109255797A (zh) | 图像处理装置及方法、电子设备 | |
CN108335327A (zh) | 摄像机姿态估计方法和摄像机姿态估计装置 | |
US20130022271A1 (en) | Method of and device for identifying direction of characters in image block | |
CN105338236A (zh) | 用于在图像中检测物体的方法、装置以及电子设备 | |
CN105631850B (zh) | 对齐多视图扫描 | |
US9064170B2 (en) | Method, apparatus and computer program product for estimating image parameters | |
CN108961381A (zh) | 用于对物体的三维几何模型着色的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20141224 |
|
WD01 | Invention patent application deemed withdrawn after publication |