CN112669438B - 一种图像重建方法、装置及设备 - Google Patents
一种图像重建方法、装置及设备 Download PDFInfo
- Publication number
- CN112669438B CN112669438B CN202011622241.1A CN202011622241A CN112669438B CN 112669438 B CN112669438 B CN 112669438B CN 202011622241 A CN202011622241 A CN 202011622241A CN 112669438 B CN112669438 B CN 112669438B
- Authority
- CN
- China
- Prior art keywords
- light bar
- light
- bar center
- line
- line structure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000003384 imaging method Methods 0.000 claims description 46
- 230000000875 corresponding effect Effects 0.000 claims description 45
- 238000005259 measurement Methods 0.000 claims description 41
- 230000008569 process Effects 0.000 claims description 23
- 238000012545 processing Methods 0.000 claims description 16
- 230000002596 correlated effect Effects 0.000 claims description 12
- 239000000758 substrate Substances 0.000 claims 2
- 230000000694 effects Effects 0.000 abstract description 10
- 239000011365 complex material Substances 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 13
- 238000004590 computer program Methods 0.000 description 7
- 230000011218 segmentation Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000007499 fusion processing Methods 0.000 description 5
- 241001522296 Erithacus rubecula Species 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- AYFVYJQAPQTCCC-GBXIJSLDSA-N L-threonine Chemical compound C[C@@H](O)[C@H](N)C(O)=O AYFVYJQAPQTCCC-GBXIJSLDSA-N 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Abstract
本申请提供一种图像重建方法、装置及设备,该方法包括:获取不同亮度等级的多个初始线结构光图像;确定初始线结构光图像的光条中心线,基于光条中心线的特征信息确定光条中心线的可靠度指标;选取待融合线结构光图像,基于初始线结构光图像的光条中心线的可靠度指标和待融合线结构光图像的光条中心线的可靠度指标,对初始线结构光图像的光条中心线和待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过目标光条中心线替换初始线结构光图像的光条中心线,得到目标线结构光图像;基于多个初始线结构光图像对应的多个目标线结构光图像进行三维重建。通过本申请方案,准确获取线结构光图像的光条中心线,提高复杂材质的三维重建效果。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像重建方法、装置及设备。
背景技术
线结构光测量系统由激光器和摄像机组成,使用激光器投射线结构光到被测目标(即被测物体)表面,并使用摄像机对被测目标进行拍摄,得到带有线结构光的图像,即线结构光图像。在得到线结构光图像后,可以获取线结构光图像的光条中心线,并根据预先标定的传感器参数对光条中心线进行转换,得到被测目标在当前位置的空间坐标(即三维坐标)。基于被测目标在当前位置的空间坐标,就可以实现被测目标的三维重建(即三维重构)。
从上述内容可以看出,获取线结构光图像的光条中心线,是实现三维重建的重要环节,如何准确地获取线结构光图像的光条中心线,直接影响三维重建的效果。但是,在相关技术中,获取线结构光图像的光条中心线的方式,在很大程度上依赖于线结构光图像的图像质量,而图像质量取决于环境光的强度和被测目标的表面材质属性,一旦图像质量比较差,则会导致无法准确地获取线结构光图像的光条中心线,进而导致三维重建的效果比较差。
发明内容
本申请提供一种图像重建方法,所述方法包括:
获取不同亮度等级的多个初始线结构光图像;
针对每个初始线结构光图像,则:
确定所述初始线结构光图像的光条中心线,并基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;从所述多个初始线结构光图像中选取待融合线结构光图像;基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;
基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建。
示例性的,所述获取不同亮度等级的多个初始线结构光图像,包括:
控制线结构光测量系统采用不同的成像参数,获取不同亮度等级的多个初始线结构光图像;其中,所述线结构光测量系统至少包括激光器和摄像机,所述成像参数是用于决定图像亮度等级的参数,所述成像参数包括以下至少一种:所述摄像机的增益,所述摄像机的曝光时间,所述激光器的激光强度。
示例性的,所述确定所述初始线结构光图像的光条中心线,包括:
针对所述初始线结构光图像的每一维度,利用分割阈值将所述维度的像素点分割为光条区域和背景区域,所述光条区域内的像素点的灰度值大于所述分割阈值,所述背景区域内的像素点的灰度值不大于所述分割阈值;其中,所述每一维度为所述初始线结构光图像的每一行,或者,每一列;
针对每个光条区域,确定所述光条区域的中心点;
若所述维度存在一个中心点,则将所述中心点确定为所述维度的光条中心点;若所述维度存在至少两个中心点,则对每个中心点进行聚类,得到每个中心点的聚类点数,将聚类点数最多的中心点确定为所述维度的光条中心点;其中,在对中心点进行聚类时,通过邻域法搜索所述维度之外的其它维度中与该中心点连通的中心点,将连通的中心点和该中心点的总数量确定为聚类点数;
基于所有维度的光条中心点确定所述初始线结构光图像的光条中心线。
示例性的,所述光条中心线包括多个光条中心点,所述光条中心线的特征信息包括所述多个光条中心点的特征信息;所述基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标,包括:
针对所述光条中心线包括的每个光条中心点,基于所述光条中心点的聚类点数以及所述光条中心点的灰度特征值,确定所述光条中心点的可靠度指标;其中,所述光条中心点的可靠度指标与所述光条中心点的聚类点数正相关,所述光条中心点的可靠度指标与所述光条中心点的灰度特征值正相关;
基于所述光条中心线的所有光条中心点的可靠度指标确定光条中心线的可靠度指标,所述光条中心线的可靠度指标包括所有光条中心点的可靠度指标。
示例性的,所述基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线,包括:
针对所述初始线结构光图像的每一维度,判断所述初始线结构光图像中所述维度的光条中心点的可靠度指标是否大于预设阈值;
若是,则将所述初始线结构光图像中所述维度的光条中心点确定为所述维度的目标光条中心点;若否,则基于待融合线结构光图像中所述维度的光条中心点的可靠度指标从所有待融合线结构光图像中所述维度的光条中心点中选取待融合光条中心点,对所有待融合光条中心点进行插值,得到插值后的光条中心点,将插值后的光条中心点确定为所述维度的目标光条中心点;
基于所述初始线结构光图像的所有维度的目标光条中心点确定所述初始线结构光图像的目标光条中心线。
所述初始线结构光图像对应的待融合线结构光图像,是亮度等级与所述初始线结构光图像的亮度等级不同的初始线结构光图像;或亮度等级与所述初始线结构光图像的亮度等级不同的初始线结构光图像对应的目标线结构光图像,所述基于待融合线结构光图像中所述维度的光条中心点的可靠度指标从所有待融合线结构光图像中所述维度的光条中心点中选取待融合光条中心点,包括:
针对每个待融合线结构光图像,若该待融合线结构光图像是初始线结构光图像,当该待融合线结构光图像中所述维度的光条中心点的可靠度指标大于预设阈值时,将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点;否则,禁止将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点;若该待融合线结构光图像是目标线结构光图像,则将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点。
示例性的,对所有待融合光条中心点进行插值,得到插值后的光条中心点,包括:对所有待融合光条中心点进行多项式插值,得到插值后的光条中心点;或者,对所有待融合光条中心点进行三次样条插值,得到插值后的光条中心点。
线结构光测量系统至少包括激光器和摄像机,获取多个初始线结构光图像的过程,包括:在待测物体沿着运动方向进行运动的过程中,通过所述激光器投射线结构光到所述待测物体的表面,并通过所述摄像机对所述待测物体进行拍摄,得到多个初始线结构光图像;其中,所述待测物体沿着运动方向在所述线结构光测量系统的下侧进行水平运动,在所述待测物体的运动过程中,所述待测物体的起始位置至结束位置之间的每个位置,会依次经过所述线结构光测量系统下侧的指定位置,且所述激光器投射线结构光到所述指定位置。
本申请提供一种图像重建装置,所述装置包括:
获取模块,用于获取不同亮度等级的多个初始线结构光图像;
确定模块,用于针对每个初始线结构光图像,确定初始线结构光图像的光条中心线,基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;
选取模块,用于从所述多个初始线结构光图像中选取待融合线结构光图像;
处理模块,用于基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;重建模块,用于基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建。
本申请提供一种图像重建设备,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;
所述处理器用于执行机器可执行指令,以实现如下步骤:
获取不同亮度等级的多个初始线结构光图像;
针对每个初始线结构光图像,则:
确定所述初始线结构光图像的光条中心线,并基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;从所述多个初始线结构光图像中选取待融合线结构光图像;基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;
基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建。
由以上技术方案可见,本申请实施例中,可以获取不同亮度等级的多个初始线结构光图像,针对每个初始线结构光图像,可以基于初始线结构光图像和待融合线结构光图像融合得到该初始线结构光图像的目标光条中心线,并基于目标光条中心线得到初始线结构光图像对应的目标线结构光图像,继而基于多个目标线结构光图像进行三维重建。上述方式通过对不同亮度等级的多个线结构光图像进行融合,得到目标光条中心线,从而准确地获取线结构光图像的光条中心线,提高三维重建的效果。获取线结构光图像的光条中心线的方式,不依赖于线结构光图像的图像质量,即使线结构光图像的图像质量较差,也能够准确地获取线结构光图像的光条中心线,进而导致三维重建的效果比较好,提高光条中心线的可靠性,有利于实现高帧率的线结构光的三维重建。
附图说明
为了更加清楚地说明本申请实施例或者现有技术中的技术方案,下面将对本申请实施例或者现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据本申请实施例的这些附图获得其他的附图。
图1是线结构光测量系统采集线结构光图像的示意图;
图2是本申请一种实施方式中的结构框图;
图3是本申请一种实施方式中的图像重建方法的流程示意图;
图4是本申请一种实施方式中的基于聚类的中心点去噪的示意图;
图5是本申请一种实施方式中的图像重建装置的结构示意图;
图6是本申请一种实施方式中的图像重建设备的硬件结构图。
具体实施方式
在本申请实施例使用的术语仅仅是出于描述特定实施例的目的,而非限制本申请。本申请和权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其它含义。还应当理解,本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请实施例可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,此外,所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
本申请实施例中提出一种图像重建方法,可以应用于图像重建设备,图像重建设备可以为线结构光测量系统、管理设备(如后端服务器)等,对此不做限制,只要能够实现图像重建即可。若该方法应用在线结构光测量系统,则线结构光测量系统可以采集线结构光图像,基于线结构光图像执行图像重建方法。若该方法应用在管理设备,则线结构光测量系统可以采集线结构光图像,将线结构光图像发送给管理设备,由管理设备基于线结构光图像执行图像重建方法。
参见图1所示,为线结构光测量系统采集线结构光图像的示意图,线结构光测量系统至少包括激光器和摄像机(如模拟摄像机或者网络摄像机等),在图1中并未示出激光器和摄像机。在待测物体(也可以称为被测目标或者被测物体,后续以被测目标为例)沿着运动方向的运动过程(可以为匀速运动)中,使用激光器投射线结构光到被测目标表面,并使用摄像机对被测目标进行拍摄,得到线结构光图像。在得到线结构光图像后,可以获取线结构光图像的光条中心线,并对光条中心线进行转换,得到被测目标在当前位置的空间坐标。基于被测目标在当前位置的空间坐标,可以实现被测目标的三维重建(即三维重构)。
获取线结构光图像的光条中心线,是实现三维重建的重要环节,如何准确地获取线结构光图像的光条中心线,直接影响到三维重建的效果。针对上述发现,本申请实施例提出一种多亮度线结构光图像的中心线动态融合方法,参见图2所示,为本申请实施例的结构框图,在被测目标的运动过程中,通过调节线结构光测量系统的成像参数,采集多个亮度等级的线结构光图像,对不同亮度等级的线结构光图像进行光条中心线提取和可靠度评价,得到线结构光图像的光条中心线和可靠度指标。针对每个线结构光图像,可以基于光条中心线和可靠度指标对该线结构光图像的光条中心线进行融合处理,得到与该结构光图像对应的更加完整与准确的目标光条中心线,用于后续被测目标的三维重建。
在上述方式中,通过对不同亮度等级的多个线结构光图像进行融合,得到目标光条中心线,从而准确地获取线结构光图像的光条中心线,提高三维重建的效果。获取线结构光图像的光条中心线的方式,不依赖于线结构光图像的图像质量,即使线结构光图像的图像质量较差,也能够准确地获取线结构光图像的光条中心线,进而导致三维重建的效果比较好,提高光条中心线的可靠性。
以下结合具体实施例,对本申请实施例的图像重建方法进行说明。
参见图3所示,为图像重建方法的流程示意图,该方法可以包括:
步骤301,获取不同亮度等级的多个初始线结构光图像。
示例性的,线结构光测量系统至少可以包括激光器和摄像机,获取多个初始线结构光图像的过程,可以包括但不限于:在待测物体沿着运动方向进行运动的过程中,通过激光器投射线结构光到该待测物体的表面,并通过摄像机对该待测物体进行拍摄,得到多个初始线结构光图像;其中,该待测物体沿着运动方向在线结构光测量系统的下侧进行水平运动(如匀速运动),在该待测物体的运动过程中,该待测物体的起始位置至结束位置之间的每个位置,会依次经过线结构光测量系统下侧的指定位置,且激光器投射线结构光到该指定位置。
其中,指定位置可以为线结构光测量系统的正下侧位置,或正下侧位置偏左的某个位置,或正下侧位置偏右的某个位置,对此指定位置不做限制,只要位于线结构光测量系统的下侧即可,且激光器能够投射线结构光到该指定位置。
待测物体的起始位置也可以称为待测物体的头部位置,即最前方的位置,待测物体的结束位置也可以称为待测物体的尾部位置,即最后方的位置。
待测物体沿着运动方向在线结构光测量系统的下侧进行水平运动时,待测物体的起始位置最先经过线结构光测量系统下侧的指定位置,待测物体的结束位置最后经过线结构光测量系统下侧的指定位置,且待测物体的起始位置至结束位置之间的每个位置,会依次经过线结构光测量系统下侧的指定位置。
在待测物体的运动过程中,待测物体的每个位置会依次经过线结构光测量系统下侧的指定位置,以位置A为例,在位置A经过线结构光测量系统下侧的指定位置时,激光器能够投射线结构光到指定位置,即投射线结构光到待测物体的位置A,这样,通过摄像机对该待测物体进行拍摄得到初始线结构光图像时,该初始线结构光图像包括待测物体,且待测物体的位置A存在一条线,这条线是线结构光投射到待测物体的位置A时产生的,也是后续数据处理的基础。
在被测目标相对于线结构光测量系统进行匀速平移运动的状态下,控制线结构光测量系统采用不同的成像参数,获取不同亮度等级的多个线结构光图像,为区分方便,将线结构光测量系统获取的线结构光图像称为初始线结构光图像。
示例性的,成像参数可以是用于决定图像亮度等级的参数,基于此,通过控制线结构光测量系统采用不同的成像参数,就可以得到不同亮度等级的多个初始线结构光图像。比如说,在线结构光测量系统采用成像参数1时,可以得到亮度等级1的初始线结构光图像,在线结构光测量系统采用成像参数2时,可以得到亮度等级2的初始线结构光图像,以此类推。
线结构光测量系统至少包括激光器和摄像机,在被测目标匀速平移运动的过程中,使用激光器投射线结构光到被测目标表面,并使用摄像机对被测目标进行拍摄,得到初始线结构光图像。综上可以看出,初始线结构光图像的亮度等级与激光器和摄像机有关,因此,成像参数可以是激光器的成像参数和/或摄像机的成像参数,比如说,该成像参数可以包括但不限于以下至少一种:摄像机的增益,摄像机的曝光时间,激光器的激光强度。为了方便描述,后续以摄像机的增益,摄像机的曝光时间,激光器的激光强度为例进行说明。
示例性的,在被测目标匀速平移运动的过程中,线结构光测量系统可以通过轮流地变换一组由低到高的成像参数去采集由暗到亮的线结构光图像序列,该线结构光图像序列包括不同亮度等级的多个初始线结构光图像。或者,通过轮流地变换一组由高到低的成像参数去采集由亮到暗的线结构光图像序列。当然,也可以采用其它方式采集线结构光图像序列,只要线结构光图像序列可以包括不同亮度等级的多个初始线结构光图像即可,对此采集方式不做限制。
线结构光图像序列IMG={IMG1,IMG2,…,IMGT,IMGT+1,IMGT+2,…,IMG2T,…IMGN},T表示成像参数的轮循周期,N表示初始线结构光图像的总数量。
比如说,假设一共存在T种成像参数(增益1,曝光时间1和激光强度1的组合作为一种成像参数,增益1,曝光时间1和激光强度2的组合作为另一种成像参数,以此类推),线结构光测量系统采用第一种成像参数时得到初始线结构光图像IMG1,线结构光测量系统采用第二种成像参数时得到初始线结构光图像IMG2,以此类推,线结构光测量系统采用第T种成像参数时得到初始线结构光图像IMGT,此时,完成一次成像参数的轮循周期,进行下一次成像参数的轮循周期。线结构光测量系统采用第一种成像参数时得到初始线结构光图像IMGT+1,线结构光测量系统采用第二种成像参数时得到初始线结构光图像IMGT+2,以此类推,线结构光测量系统采用第T种成像参数时得到初始线结构光图像IMG2T,此时,完成一次成像参数的轮循周期,进行下一次成像参数的轮循周期,以此类推。
综上所述,按照成像参数的轮循周期T,轮流地变换摄像机的增益,摄像机的曝光时间,激光器的激光强度等,就可以得到多个亮度等级的初始线结构光图像,在每个轮循周期T内,初始线结构光图像的亮度等级均不同,轮循周期T表示成像参数的种类,即存在T种成像参数,T种成像参数对应T个亮度等级。
在一种可能的实施方式中,线结构光测量系统采用不同成像参数时,成像参数的轮循方式可以为单变量调节模式,单变量调节模式是指对单个参数进行轮循。例如,①变换摄像机的增益,设置一组由低到高的增益序列G={G1,G2,…,GT};②变换摄像机的曝光时间,设置一组由短到长的曝光时间序列E={E1,E2,…,ET};③变换激光器的激光强度,设置一组由弱到强的激光强度序列I={I1,I2,…,IT}。
比如说,假设摄像机的增益为G1和G2,摄像机的曝光时间为E1和E2,激光器的激光强度为I1和I2,则,保证摄像机的增益和摄像机的曝光时间不变,改变激光器的激光强度,如线结构光测量系统采用G1、E1和I1,得到亮度等级1的线结构光图像IMG1,线结构光测量系统采用G1、E1和I2,得到亮度等级2的线结构光图像IMG2,至此,完成一次成像参数的轮循周期,线结构光测量系统重新采用G1、E1和I1,得到亮度等级1的线结构光图像IMG3,以此类推。或者,保证摄像机的增益和激光器的激光强度不变,改变摄像机的曝光时间。或者,保证摄像机的曝光时间和激光器的激光强度不变,改变摄像机的增益。
在另一种可能的实施方式中,线结构光测量系统采用不同成像参数时,成像参数的轮循方式可以为多变量调节模式,多变量调节模式是指对至少两个参数协同进行轮循。例如,变换摄像机的增益和摄像机的曝光时间,或者,变换摄像机的增益和激光器的激光强度,或者,变换摄像机的曝光时间和激光器的激光强度,或者,变换摄像机的增益,摄像机的曝光时间,激光器的激光强度,
比如说,假设摄像机的增益为G1和G2,摄像机的曝光时间为E1和E2,激光器的激光强度为I1和I2,线结构光测量系统采用G1、E1和I1,得到亮度等级1的线结构光图像IMG1,线结构光测量系统采用G1、E1和I2,得到亮度等级2的线结构光图像IMG2,线结构光测量系统采用G1、E2和I1,得到亮度等级3的线结构光图像IMG3,线结构光测量系统采用G1、E2和I2,得到亮度等级4的线结构光图像IMG4,线结构光测量系统采用G2、E1和I1,得到亮度等级5的线结构光图像IMG5,线结构光测量系统采用G2、E1和I2,得到亮度等级6的线结构光图像IMG6,线结构光测量系统采用G2、E2和I1,得到亮度等级7的线结构光图像IMG7,线结构光测量系统采用G2、E2和I2,得到亮度等级8的线结构光图像IMG8,至此,完成一次成像参数的轮循周期,线结构光测量系统重新采用G1、E1和I1,得到亮度等级1的线结构光图像IMG9,以此类推。
步骤302,针对每个初始线结构光图像,确定该初始线结构光图像的光条中心线,并基于光条中心线的特征信息确定该光条中心线的可靠度指标。
示例性的,光条中心线可以包括多个光条中心点,即多个光条中心点组成该光条中心线,该光条中心线可以是初始线结构光图像的一行光条中心线,或者,该光条中心线可以是初始线结构光图像的一列光条中心线,按行或者按列取决于摄像机与激光器的安装位置是竖直方向还是水平方向,对此不做限制。
在一种可能的实施方式中,可以采用如下步骤确定光条中心线,当然,如下确定方式只是示例,对此不做限制,只要能够得到光条中心线即可。
步骤a1、针对初始线结构光图像的每一维度,利用分割阈值将该维度的像素点分割为光条区域和背景区域,该光条区域内的像素点的灰度值大于该分割阈值,该背景区域内的像素点的灰度值不大于该分割阈值。示例性的,初始线结构光图像的每一维度为该初始线结构光图像的每一行,或者,初始线结构光图像的每一维度为该初始线结构光图像的每一列。关于初始线结构光图像的每一维度是每一行还是每一列,与摄像机与激光器的安装位置的方向有关,例如,若摄像机与激光器的安装位置是竖直方向(表示投射到物体表面的线结构光是竖直方向),初始线结构光图像的每一维度是该初始线结构光图像的每一列,若摄像机与激光器的安装位置是水平方向(表示投射到物体表面的线结构光是水平方向),初始线结构光图像的每一维度是该初始线结构光图像的每一行。
示例性的,若光条中心线是初始线结构光图像的一行光条中心线,则初始线结构光图像的每一维度是初始线结构光图像的每一列,即针对每一列得到光条中心点,初始线结构光图像的每一列的光条中心点可以组成一行光条中心线。
若光条中心线是初始线结构光图像的一列光条中心线,则初始线结构光图像的每一维度是初始线结构光图像的每一行,即针对每一行得到光条中心点,初始线结构光图像的每一行的光条中心点可以组成一列光条中心线。
示例性的,对于任意n∈N的初始线结构光图像IMGn,可以利用分割阈值K对初始线结构光图像IMGn的每一维度的像素点进行分割,将灰度值大于K的像素点区域分割为光条区域,将灰度值不大于K的像素点区域分割为背景区域。
显然,针对初始线结构光图像IMGn的每一维度,该维度可以存在一个光条区域,也可以存在至少两个光条区域,还可以不存在光条区域。若该维度存在光条区域,则该光条区域可以包括至少一个像素点。此外,若该维度不存在光条区域,则表示该维度的所有像素点的灰度值均不大于分割阈值K。
示例性的,分割阈值K的取值可以根据经验配置,分割阈值K的取值也可以通过大津法或直方图法确定,对此分割阈值K的取值不做限制。
步骤a2、针对每个光条区域,确定该光条区域的中心点。
示例性的,针对初始线结构光图像IMGn的每一维度,该维度可以存在一个光条区域,也可以存在至少两个光条区域,还可以不存在光条区域。若该维度存在光条区域,则针对该维度的每个光条区域,确定该光条区域的中心点,即对该光条区域进行中心坐标计算,得到该光条区域的中心点,该光条区域的中心点是该光条区域的所有像素点的中心点,对此确定方式不做限制,只要能够得到该光条区域的中心点即可。比如说,可以采用灰度重心法或者几何中心法等方式,确定该光条区域的中心点。当然,上述算法只是两个示例。
示例性的,以初始线结构光图像IMGn的每一维度是初始线结构光图像IMGn的每一列为例,如针对初始线结构光图像IMGn的第一列,若第一列的像素点的灰度值大于分割阈值,则该像素点属于光条区域,若第一列的像素点的灰度值不大于分割阈值,则该像素点属于背景区域。针对灰度值大于分割阈值的所有像素点,将相邻像素点组成同一个光条区域,将不相邻像素点组成不同光条区域。比如说,第一列的第1-5个像素点属于光条区域1,第6-11个像素点属于背景区域,第12-20个像素点属于光条区域2,以此类推。针对第一列的每个光条区域(如光条区域1和光条区域2等),可以确定该光条区域的中心点,如光条区域1的中心点是第一列的第3个像素点(1-5个像素点的中心点),光条区域2的中心点是第一列的第16个像素点(12-20个像素点的中心点)。
步骤a3、针对初始线结构光图像的每一维度,若该维度存在一个中心点,则将该中心点确定为该维度的光条中心点;若该维度存在至少两个中心点,则对每个中心点进行聚类,得到每个中心点的聚类点数,并将聚类点数最多的中心点确定为该维度的光条中心点。至此,可以得到该维度的光条中心点。示例性的,在对中心点进行聚类时,通过邻域法搜索该维度之外的其它维度中与该中心点连通的中心点,将连通的中心点和该中心点的总数量确定为聚类点数。
示例性的,针对初始线结构光图像IMGn的每一维度,若该维度不存在光条区域,则该维度不存在中心点,也就是说,该维度不存在光条中心点。
针对初始线结构光图像IMGn的每一维度,若该维度存在一个光条区域,则该维度存在一个中心点,直接将该中心点确定为该维度的光条中心点。
针对初始线结构光图像IMGn的每一维度,若该维度存在至少两个光条区域,则该维度存在至少两个中心点,且至少两个中心点中存在噪声中心点,因此,需要去除噪声中心点,只保留一个中心点作为该维度的光条中心点。
参见图4所示,为基于聚类的中心点去噪的示意图,针对初始线结构光图像IMGn的第五维度(即第五列),存在中心点p1(第五列上侧的中心点)和中心点p2(第五列下侧的中心点),对中心点p1进行聚类,得到中心点p1的聚类点数,即与中心点p1连通的所有中心点(即灰色像素点)的数量,且包括中心点p1本身,显然,中心点p1的聚类点数为14;对中心点p2进行聚类,得到中心点p2的聚类点数6,即与中心点p2连通的所有中心点(即灰色像素点)的数量,且包括中心点p2本身。然后,将聚类点数最多的中心点p1确定为第五维度的光条中心点。针对第十维度(第十列),存在中心点p3(第十列上侧的中心点)和中心点p4(第十列下侧的中心点),对中心点p3进行聚类,得到中心点p3的聚类点数14;对中心点p4进行聚类,得到中心点p4的聚类点数6,然后,将聚类点数最多的中心点p3确定为第十维度的光条中心点。
针对其它维度的处理过程类似,在此不再重复赘述。
在对每个维度进行上述处理后,就可以得到该维度的光条中心点,初始线结构光图像IMGn的每个维度至多存在一个光条中心点,参见图4所示。
示例性的,在对一个维度的中心点进行聚类时,可以通过邻域法搜索该维度之外的其它维度中与该中心点连通的中心点,并统计连通的中心点和该中心点的总数量,即该中心点的聚类点数,邻域法的搜索过程本实施例中不做限制。
参见图4所示,深色标记的像素点为提取出的中心点(行方向为亚像素精度),左图两条虚线之间的每一列可能存在两个或者多个中心点,通过聚类点数去噪策略之后得到右图结果,保证每列至多存在一个光条中心点。
步骤a4、针对初始线结构光图像的每一维度,在得到该维度的光条中心点之后,可以基于所有维度的光条中心点确定该初始线结构光图像的光条中心线,即,将所有维度的光条中心点组成该初始线结构光图像的光条中心线。
在一种可能的实施方式中,光条中心线包括多个光条中心点,光条中心线的可靠度指标包括多个光条中心点的可靠度指标,即每个光条中心点对应一个可靠度指标,光条中心线的特征信息包括多个光条中心点的特征信息。在此基础上,基于光条中心线的特征信息确定该光条中心线的可靠度指标,可以包括但不限于:针对光条中心线包括的每个光条中心点,基于该光条中心点的聚类点数以及该光条中心点的灰度特征值,确定该光条中心点的可靠度指标。该光条中心点的可靠度指标与该光条中心点的聚类点数正相关,该光条中心点的可靠度指标与该光条中心点的灰度特征值正相关。然后,基于光条中心线的所有光条中心点的可靠度指标确定该光条中心线的可靠度指标,比如说,该光条中心线的可靠度指标可以包括所有光条中心点的可靠度指标。比如说,假设光条中心线包括光条中心点1和光条中心点2,则基于光条中心点1的聚类点数和光条中心点1的灰度特征值,确定光条中心点1的可靠度指标,基于光条中心点2的聚类点数和光条中心点2的灰度特征值,确定光条中心点2的可靠度指标。
示例性的,可靠度指标用于对光条中心点进行可靠性评价,每个光条中心点可以对应一个可靠度指标。比如说,可以通过如下公式确定光条中心点的可靠度指标:R=K×Fgray,在上述公式中,R为光条中心点的可靠度指标,K为该光条中心点的聚类点数,Fgray为该光条中心点的灰度特征值。该灰度特征值可以包括但不限于以下至少一种:对比度,高斯拟合信度,饱和程度。
步骤303,针对每个初始线结构光图像,从多个初始线结构光图像中选取待融合线结构光图像,即与该初始线结构光图像对应的待融合线结构光图像。
示例性的,针对初始线结构光图像对应的待融合线结构光图像,该待融合线结构光图像可以是亮度等级与该初始线结构光图像的亮度等级不同的初始线结构光图像。或者,该待融合线结构光图像可以是亮度等级与该初始线结构光图像的亮度等级不同的初始线结构光图像对应的目标线结构光图像。当然,待融合线结构光图像也可以是亮度等级与该初始线结构光图像的亮度等级相同的初始线结构光图像。或者,待融合线结构光图像也可以是亮度等级与该初始线结构光图像的亮度等级相同的初始线结构光图像对应的目标线结构光图像。
示例性的,待融合线结构光图像的数量可以根据经验配置,对此不做限制,如1个,2个等,本实施例中,以待融合线结构光图像的数量为T为例。
在一种可能的实施方式中,线结构光图像序列IMG={IMG1,IMG2,…,IMGT,IMGT+1,IMGT+2,…,IMG2T,…IMGN},针对初始线结构光图像IMGn,可以对IMGn相邻且包含所有亮度等级的IMGn-T/2,…,IMGn,…,IMGn+T/2的光条中心线进行后续融合处理,因此,将IMGn-T/2,…,IMGn,…,IMGn+T/2中除IMGn之外的其它初始线结构光图像作为待融合线结构光图像。当然,在实际应用中,若IMGn之前的图像数量少于T/2,则可以从IMGn后面补充初始线结构光图像,直到待融合线结构光图像的数量为T。若IMGn之后的图像数量少于T/2,则可以从IMGn前面补充初始线结构光图像,直到待融合线结构光图像的数量为T。
在另一种可能的实施方式中,线结构光图像序列IMG={IMG1,IMG2,…,IMGT,IMGT+1,IMGT+2,…,IMG2T,…IMGN},针对初始线结构光图像Ci,n,可以对Ci,n相邻且包含所有亮度等级的Pi={Di,n-T/2,…,Di,n-1,Ci,n,Ci,n+1,…,Ci,n+T/2}的光条中心线进行后续融合处理,因此,可以将Pi={Di,n-T/2,…,Di,n-1,Ci,n,Ci,n+1,…,Ci,n+T/2}中除Ci,n之外的其它线结构光图像作为待融合线结构光图像。
示例性的,Ci,n是IMG={IMG1,IMG2,…,IMGT,IMGT+1,IMGT+2,…,IMG2T,…IMGN}中的任意一个初始线结构光图像,{Di,n-T/2,…,Di,n-1}可以是IMG={IMG1,IMG2,…,IMGT,IMGT+1,IMGT+2,…,IMG2T,…IMGN}中位于Ci,n之前的初始线结构光图像对应的目标线结构光图像,关于目标线结构光图像的获取方式,可以参见后续实施例。{Ci,n+1,…,Ci,n+T/2}是IMG={IMG1,IMG2,…,IMGT,IMGT+1,IMGT+2,…,IMG2T,…IMGN}中位于Ci,n之后的初始线结构光图像。
显然,由于一共存在T种成像参数,即存在T种亮度等级,因此,上述待融合线结构光图像可以包括所有亮度等级的待融合线结构光图像。
步骤304,针对每个初始线结构光图像,基于该初始线结构光图像的光条中心线的可靠度指标和待融合线结构光图像(即该初始线结构光图像对应的待融合线结构光图像)的光条中心线的可靠度指标,对该初始线结构光图像的光条中心线和该待融合线结构光图像的光条中心线进行融合,得到目标光条中心线。
示例性的,初始线结构光图像的光条中心线包括多个光条中心点,该光条中心线的可靠度指标包括多个光条中心点的可靠度指标。待融合线结构光图像的光条中心线包括多个光条中心点,该光条中心线的可靠度指标包括多个光条中心点的可靠度指标。基于此,基于初始线结构光图像的光条中心点的可靠度指标和待融合线结构光图像的光条中心点的可靠度指标,对初始线结构光图像的光条中心点和待融合线结构光图像的光条中心点进行融合,得到目标光条中心点,将所有目标光条中心点组成初始线结构光图像对应的目标光条中心线。
在一种可能的实施方式中,可以采用如下步骤得到目标光条中心线,当然,如下确定方式只是示例,对此不做限制,只要能够得到目标光条中心线即可。
步骤b1、针对初始线结构光图像的每一维度(如行或列),判断该初始线结构光图像中该维度的光条中心点的可靠度指标是否大于预设阈值(可以根据经验配置)。若是,则可以执行步骤b2,若否,则可以执行步骤b3。
步骤b2、将该初始线结构光图像中该维度的光条中心点确定为该维度的目标光条中心点。比如说,针对初始线结构光图像的第一维度,若初始线结构光图像中第一维度的光条中心点的可靠度指标大于预设阈值,则直接将第一维度的光条中心点确定为第一维度的目标光条中心点。针对初始线结构光图像的第二维度,若初始线结构光图像中第二维度的光条中心点的可靠度指标不大于预设阈值,则执行步骤b3及后续步骤,得到第二维度的目标光条中心点。
步骤b3、基于待融合线结构光图像中该维度的光条中心点的可靠度指标从所有待融合线结构光图像中该维度的光条中心点中选取待融合光条中心点。
示例性的,参见步骤303所示,初始线结构光图像对应的待融合线结构光图像,可以是亮度等级与该初始线结构光图像的亮度等级不同的初始线结构光图像;或者,初始线结构光图像对应的待融合线结构光图像,也可以是亮度等级与该初始线结构光图像的亮度等级不同的初始线结构光图像对应的目标线结构光图像,在此基础上,步骤b3可以包括但不限于:
针对每个待融合线结构光图像,若该待融合线结构光图像是亮度等级与该初始线结构光图像的亮度等级不同的初始线结构光图像,则:若该待融合线结构光图像中该维度的光条中心点的可靠度指标大于预设阈值,则将该待融合线结构光图像中该维度的光条中心点选取为待融合光条中心点。若该待融合线结构光图像中该维度的光条中心点的可靠度指标不大于预设阈值,则可以禁止将该待融合线结构光图像中该维度的光条中心点选取为待融合光条中心点。
针对每个待融合线结构光图像,若该待融合线结构光图像是亮度等级与该初始线结构光图像的亮度等级不同的初始线结构光图像对应的目标线结构光图像,则直接将该待融合线结构光图像中该维度的光条中心点选取为待融合光条中心点,而不再比较可靠度指标与预设阈值之间的大小关系。
比如说,针对初始线结构光图像IMGn,假设IMGn对应T个待融合线结构光图像,这些待融合线结构光图像为IMGn-T/2,…,IMGn-1,IMGn+1…,IMGn+T/2。
针对IMGn的第k维度,判断IMGn的第k维度的光条中心点的可靠度指标是否大于预设阈值(预设阈值记为Thre,且该预设阈值可以根据经验进行配置)。若否,则IMGn的第k维度的光条中心点不作为待融合光条中心点。以及,
针对每个待融合线结构光图像(以IMGn-T/2为例,其它待融合线结构光图像的处理过程相同),若IMGn-T/2是与IMGn不同的其它初始线结构光图像对应的目标线结构光图像,则直接将IMGn-T/2的第k维度的光条中心点作为待融合光条中心点。若IMGn-T/2是与IMGn不同的其它初始线结构光图像(即不是目标线结构光图像),则进一步判断IMGn-T/2的第k维度的光条中心点的可靠度指标是否大于预设阈值。若是,则IMGn-T/2的第k维度的光条中心点作为待融合光条中心点,若否,则IMGn-T/2的第k维度的光条中心点不作为待融合光条中心点。
综上所述,可以得到初始线结构光图像IMGn的第k维度的待融合光条中心点,待融合光条中心点的数量可以为多个。同理,还可以得到IMGn的其它维度的待融合光条中心点,即,可以得到IMGn的每个维度的待融合光条中心点。
步骤b4、针对初始线结构光图像的每一维度,在得到该维度的待融合光条中心点之后,可以对该维度的所有待融合光条中心点进行插值,得到插值后的光条中心点,并将插值后的光条中心点确定为该维度的目标光条中心点。
比如说,针对IMGn的第k维度,可以对第k维度的所有待融合光条中心点进行插值,并将插值后的光条中心点确定为第k维度的目标光条中心点。
示例性的,插值方式可以包括但不限于多项式插值和三次样条插值等,对此插值方式不做限制。若采用多项式插值,则可以对该维度的所有待融合光条中心点进行多项式插值,得到插值后的光条中心点,对此多项式插值过程不做限制。若采用三次样条插值,则可以对该维度的所有待融合光条中心点进行三次样条插值,得到插值后的光条中心点,对此三次样条插值过程不做限制。
当然,上述只是插值方式的几个示例,对此不做限制,只要能够对该维度的所有待融合光条中心点进行插值,得到插值后的光条中心点即可。
示例性的,考虑到被测目标为一维运动(如匀速运动),被测目标在运动过程中其表面高度变化会造成相邻帧之间的光条中心点的坐标产生变化,且光条中心点的坐标仅与物体高度有关,因此,设计了一种基于插值的中心点运动补偿策略,即,对该维度的所有待融合光条中心点进行插值,实现运动补偿。
步骤b5、在得到初始线结构光图像的每一维度的目标光条中心点后,基于初始线结构光图像的所有维度的目标光条中心点确定该初始线结构光图像的目标光条中心线,即,将初始线结构光图像的所有维度的目标光条中心点组合起来,得到该初始线结构光图像的目标光条中心线。
在一种可能的实施方式中,针对初始线结构光图像的每一维度,可以采用步骤b2的过程得到该维度的目标光条中心点,也可以采用步骤b3和步骤b4的过程得到该维度的目标光条中心点,在得到初始线结构光图像的所有维度的目标光条中心点后,就可以将初始线结构光图像的所有维度的目标光条中心点组合起来,从而得到该初始线结构光图像的目标光条中心线。
在上述实施例中,针对初始线结构光图像IMGn,假设IMGn对应的T个待融合线结构光图像为IMGn-T/2,…,IMGn-1,IMGn+1…,IMGn+T/2,IMGn的第k维度的光条中心点的可靠度指标不大于预设阈值,待融合线结构光图像中IMGn-T/2,IMGn-1,IMGn+1和IMGn+T/2的第k维度的光条中心点的可靠度指标大于预设阈值,而待融合线结构光图像中剩余图像的第k维度的光条中心点的可靠度指标不大于预设阈值,则将中IMGn-T/2,IMGn-1,IMGn+1和IMGn+T/2的第k维度的光条中心点选取为待融合光条中心点。在后续实施例中,将IMGn-T/2的第k维度的光条中心点记为s1、将IMGn-1的第k维度的光条中心点记为s2、将IMGn+1的第k维度的光条中心点记为s3、将IMGn+T/2的第k维度的光条中心点记为s4。
然后,可以对第k维度的所有待融合光条中心点进行插值,也就是说,对s1、s2、s3和s4进行插值,从而得到插值后的光条中心点,后续记为s5,并将插值后的光条中心点s5确定为第k维度的目标光条中心点。
此外,对初始线结构光图像IMGn的其它维度也进行上述处理,这样,可以得到初始线结构光图像IMGn的每个维度的目标光条中心点,然后,就可以将初始线结构光图像IMGn的所有目标光条中心点组成目标光条中心线。
在上述实施例中,涉及对s1、s2、s3和s4进行插值,比如说,采用多项式插值和三次样条插值等方式,对s1、s2、s3和s4进行插值。关于如何对s1、s2、s3和s4进行插值,以三次样条插值为例,已知多个中心点(如s1、s2、s3和s4)的坐标(如第k维度是第k列时,该坐标为横坐标值)和多个中心点的帧号(表示中心点是T个待融合线结构光图像中的第几帧图像,如s1所在的IMGn-T/2是第1帧图像,s2所在的IMGn-1是第T/2-1帧图像,以此类推),可以拟合出一个函数关系(即通过三次样条插值算法拟合出该函数关系),该函数关系的输入是中心点的帧号,该函数关系的输出是中心点的坐标。在得到该函数关系后,就可以将初始线结构光图像IMGn的帧号代入该函数关系,得到初始线结构光图像IMGn的光条中心点,即插值出的点(如s5),对此插值过程不做限制。
示例性的,针对初始线结构光图像的第i维度,假设第i维度的光条中心点序列为Ci={Ci,n-T/2,…,Ci,n,…,Ci,n+T/2},第i维度的光条中心点对应的可靠度指标序列为Ri={Ri,n-T/2,…,Ri,n,…,Ri,n+T/2}。基于初始线结构光图像的第i维度的可靠度指标Ri,n与预设阈值的大小,决定是否对第i维度的光条中心点序列Ci进行融合处理,若Ri,n大于预设阈值则不进行融合处理,直接保留Ci,n为第i维度的目标光条中心点,若Ri,n不大于预设阈值则进行融合处理,即,从Ci={Ci,n-T/2,…,Ci,n,…,Ci,n+T/2}中选取出大于预设阈值的光条中心点(即待融合光条中心点),对选取出的待融合光条中心点进行插值,将插值后的光条中心点作为第i维度的目标光条中心点。至此,得到初始线结构光图像的第i维度的目标光条中心点。
步骤305,通过初始线结构光图像的目标光条中心线替换初始线结构光图像的光条中心线,得到该初始线结构光图像对应的目标线结构光图像。
示例性的,在得到初始线结构光图像的目标光条中心线(即目标光条中心线的坐标)后,可以在初始线结构光图像中绘制出目标光条中心线,并删除之前的光条中心线,将标记有目标光条中心线的初始线结构光图像称为目标线结构光图像,至此,得到该初始线结构光图像对应的目标线结构光图像。
步骤306,基于多个初始线结构光图像对应的多个目标线结构光图像进行三维重建,即基于多个目标线结构光图像进行三维重建。比如说,根据预先标定的传感器参数对目标线结构光图像中的目标光条中心线进行转换,得到被测目标在当前位置的空间坐标,基于该空间坐标可以实现被测目标的三维重建。
示例性的,针对每个初始线结构光图像,可以执行步骤302-步骤305,得到与该初始线结构光图像对应的目标线结构光图像。在得到与每个初始线结构光图像对应的目标线结构光图像后,就可以基于多个目标线结构光图像进行三维重建。例如,假设采集到M个初始线结构光图像,则每个初始线结构光图像对应一个目标线结构光图像,可以得到M个目标线结构光图像,然后,可以基于M个目标线结构光图像进行三维重建,对此三维重建过程不再赘述。
示例性的,上述执行顺序只是为了方便描述给出的示例,在实际应用中,还可以改变步骤之间的执行顺序,对此执行顺序不做限制。而且,在其它实施例中,并不一定按照本说明书示出和描述的顺序来执行相应方法的步骤,其方法所包括的步骤可以比本说明书所描述的更多或更少。此外,本说明书中所描述的单个步骤,在其它实施例中可能被分解为多个步骤进行描述;本说明书中所描述的多个步骤,在其它实施例也可能被合并为单个步骤进行描述。
由以上技术方案可见,本申请实施例中,可以获取不同亮度等级的多个初始线结构光图像,针对每个初始线结构光图像,可以基于初始线结构光图像和待融合线结构光图像融合得到该初始线结构光图像的目标光条中心线,并基于目标光条中心线得到初始线结构光图像对应的目标线结构光图像,继而基于多个目标线结构光图像进行三维重建。上述方式通过对不同亮度等级的多个线结构光图像进行融合,得到目标光条中心线,从而准确地获取线结构光图像的光条中心线,提高三维重建的效果。获取线结构光图像的光条中心线的方式,不依赖于线结构光图像的图像质量,即使线结构光图像的图像质量较差,也能够准确地获取线结构光图像的光条中心线,进而导致三维重建的效果比较好,提高光条中心线的可靠性,有利于实现高帧率的线结构光的三维重建。上述方式可以同时提高吸光材质和反光材质的光条中心线的可靠性,增强线结构光测量系统对于复杂材质的适应能力,且整个处理流程无需进行复杂运算,效率较高。
基于与上述方法同样的申请构思,本申请实施例中提出一种图像重建装置,参见图5所示,为所述图像重建装置的结构示意图,所述装置包括:
获取模块51,用于获取不同亮度等级的多个初始线结构光图像;确定模块52,用于针对每个初始线结构光图像,确定初始线结构光图像的光条中心线,基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;选取模块53,用于从所述多个初始线结构光图像中选取待融合线结构光图像;处理模块54,用于基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;重建模块55,用于基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建。
示例性的,所述获取模块51获取不同亮度等级的多个初始线结构光图像时具体用于:控制线结构光测量系统采用不同的成像参数,获取不同亮度等级的多个初始线结构光图像;其中,所述线结构光测量系统至少包括激光器和摄像机,所述成像参数是用于决定图像亮度等级的参数,所述成像参数包括以下至少一种:所述摄像机的增益,所述摄像机的曝光时间,所述激光器的激光强度。
示例性的,所述确定模块52确定初始线结构光图像的光条中心线时具体用于:针对所述初始线结构光图像的每一维度,利用分割阈值将所述维度的像素点分割为光条区域和背景区域,所述光条区域内的像素点的灰度值大于所述分割阈值,所述背景区域内的像素点的灰度值不大于所述分割阈值;其中,所述每一维度为所述初始线结构光图像的每一行,或者,每一列;
针对每个光条区域,确定所述光条区域的中心点;
若所述维度存在一个中心点,则将所述中心点确定为所述维度的光条中心点;若所述维度存在至少两个中心点,则对每个中心点进行聚类,得到每个中心点的聚类点数,将聚类点数最多的中心点确定为所述维度的光条中心点;其中,在对中心点进行聚类时,通过邻域法搜索所述维度之外的其它维度中与该中心点连通的中心点,将连通的中心点和该中心点的总数量确定为聚类点数;
基于所有维度的光条中心点确定所述初始线结构光图像的光条中心线。
示例性的,所述光条中心线包括多个光条中心点,所述光条中心线的特征信息包括所述多个光条中心点的特征信息;所述确定模块52基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标时具体用于:
针对所述光条中心线包括的每个光条中心点,基于所述光条中心点的聚类点数以及所述光条中心点的灰度特征值,确定所述光条中心点的可靠度指标;其中,所述光条中心点的可靠度指标与所述光条中心点的聚类点数正相关,所述光条中心点的可靠度指标与所述光条中心点的灰度特征值正相关;
基于所述光条中心线的所有光条中心点的可靠度指标确定光条中心线的可靠度指标,所述光条中心线的可靠度指标包括所有光条中心点的可靠度指标。
示例性的,所述处理模块54基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线时具体用于:
针对所述初始线结构光图像的每一维度,判断所述初始线结构光图像中所述维度的光条中心点的可靠度指标是否大于预设阈值;
若是,则将所述初始线结构光图像中所述维度的光条中心点确定为所述维度的目标光条中心点;若否,则基于待融合线结构光图像中所述维度的光条中心点的可靠度指标从所有待融合线结构光图像中所述维度的光条中心点中选取待融合光条中心点,对所有待融合光条中心点进行插值,得到插值后的光条中心点,将插值后的光条中心点确定为所述维度的目标光条中心点;
基于所述初始线结构光图像的所有维度的目标光条中心点确定所述初始线结构光图像的目标光条中心线。
示例性的,所述初始线结构光图像对应的待融合线结构光图像,是亮度等级与所述初始线结构光图像的亮度等级不同的初始线结构光图像;或亮度等级与所述初始线结构光图像的亮度等级不同的初始线结构光图像对应的目标线结构光图像;所述处理模块54基于待融合线结构光图像中所述维度的光条中心点的可靠度指标从所有待融合线结构光图像中所述维度的光条中心点中选取待融合光条中心点时具体用于:
针对每个待融合线结构光图像,若该待融合线结构光图像是初始线结构光图像,当该待融合线结构光图像中所述维度的光条中心点的可靠度指标大于预设阈值时,将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点;否则,禁止将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点;若该待融合线结构光图像是目标线结构光图像,则将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点。
示例性的,所述处理模块54对所有待融合光条中心点进行插值,得到插值后的光条中心点时具体用于:对所有待融合光条中心点进行多项式插值,得到插值后的光条中心点;或者,对所有待融合光条中心点进行三次样条插值,得到插值后的光条中心点。
示例性的,线结构光测量系统至少包括激光器和摄像机,所述获取模块51获取多个初始线结构光图像时具体用于:在待测物体沿着运动方向进行运动的过程中,通过所述激光器投射线结构光到所述待测物体的表面,并通过所述摄像机对所述待测物体进行拍摄,得到多个初始线结构光图像;其中,所述待测物体沿着运动方向在所述线结构光测量系统的下侧进行水平运动,在所述待测物体的运动过程中,所述待测物体的起始位置至结束位置之间的每个位置,会依次经过所述线结构光测量系统下侧的指定位置,且所述激光器投射线结构光到所述指定位置。
基于与上述方法同样的申请构思,本申请实施例中提出一种图像重建设备,参见图6所示,所述图像重建设备包括:处理器61和机器可读存储介质62,所述机器可读存储介质62存储有能够被所述处理器61执行的机器可执行指令;所述处理器61用于执行机器可执行指令,以实现如下步骤:
获取不同亮度等级的多个初始线结构光图像;
针对每个初始线结构光图像,则:
确定所述初始线结构光图像的光条中心线,并基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;从所述多个初始线结构光图像中选取待融合线结构光图像;基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;
基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建。
基于与上述方法同样的申请构思,本申请实施例还提供一种机器可读存储介质,所述机器可读存储介质上存储有若干计算机指令,所述计算机指令被处理器执行时,能够实现本申请上述示例公开的图像重建方法。
其中,上述机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:RAM(Radom Access Memory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
而且,这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上,使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (9)
1.一种图像重建方法,其特征在于,所述方法包括:
获取不同亮度等级的多个初始线结构光图像;
针对每个初始线结构光图像,则:
确定所述初始线结构光图像的光条中心线,并基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;从所述多个初始线结构光图像中选取待融合线结构光图像;基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;
基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建;
所述光条中心线包括多个光条中心点,所述光条中心线的特征信息包括所述多个光条中心点的特征信息;所述基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标,包括:针对所述光条中心线包括的每个光条中心点,基于所述光条中心点的聚类点数以及所述光条中心点的灰度特征值,确定所述光条中心点的可靠度指标;其中,所述光条中心点的可靠度指标与所述光条中心点的聚类点数正相关,所述光条中心点的可靠度指标与所述光条中心点的灰度特征值正相关;基于所述光条中心线的所有光条中心点的可靠度指标确定光条中心线的可靠度指标,所述光条中心线的可靠度指标包括所有光条中心点的可靠度指标。
2.根据权利要求1所述的方法,其特征在于,
所述获取不同亮度等级的多个初始线结构光图像,包括:
控制线结构光测量系统采用不同的成像参数,获取不同亮度等级的多个初始线结构光图像;其中,所述线结构光测量系统至少包括激光器和摄像机,所述成像参数是用于决定图像亮度等级的参数,所述成像参数包括以下至少一种:所述摄像机的增益,所述摄像机的曝光时间,所述激光器的激光强度。
3.根据权利要求1所述的方法,其特征在于,
所述确定所述初始线结构光图像的光条中心线,包括:
针对所述初始线结构光图像的每一维度,利用分割阈值将所述维度的像素点分割为光条区域和背景区域,所述光条区域内的像素点的灰度值大于所述分割阈值,所述背景区域内的像素点的灰度值不大于所述分割阈值;其中,所述每一维度为所述初始线结构光图像的每一行,或者,每一列;
针对每个光条区域,确定所述光条区域的中心点;
若所述维度存在一个中心点,则将所述中心点确定为所述维度的光条中心点;若所述维度存在至少两个中心点,则对每个中心点进行聚类,得到每个中心点的聚类点数,将聚类点数最多的中心点确定为所述维度的光条中心点;其中,在对中心点进行聚类时,通过邻域法搜索所述维度之外的其它维度中与该中心点连通的中心点,将连通的中心点和该中心点的总数量确定为聚类点数;
基于所有维度的光条中心点确定所述初始线结构光图像的光条中心线。
4.根据权利要求1所述的方法,其特征在于,所述基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线,包括:
针对所述初始线结构光图像的每一维度,判断所述初始线结构光图像中所述维度的光条中心点的可靠度指标是否大于预设阈值;
若是,则将所述初始线结构光图像中所述维度的光条中心点确定为所述维度的目标光条中心点;若否,则基于待融合线结构光图像中所述维度的光条中心点的可靠度指标从所有待融合线结构光图像中所述维度的光条中心点中选取待融合光条中心点,对所有待融合光条中心点进行插值,得到插值后的光条中心点,将插值后的光条中心点确定为所述维度的目标光条中心点;
基于所述初始线结构光图像的所有维度的目标光条中心点确定所述初始线结构光图像的目标光条中心线。
5.根据权利要求4所述的方法,其特征在于,
所述初始线结构光图像对应的待融合线结构光图像,是亮度等级与所述初始线结构光图像的亮度等级不同的初始线结构光图像;或亮度等级与所述初始线结构光图像的亮度等级不同的初始线结构光图像对应的目标线结构光图像;
基于待融合线结构光图像中所述维度的光条中心点的可靠度指标从所有待融合线结构光图像中所述维度的光条中心点中选取待融合光条中心点,包括:
针对每个待融合线结构光图像,若该待融合线结构光图像是初始线结构光图像,当该待融合线结构光图像中所述维度的光条中心点的可靠度指标大于预设阈值时,将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点;否则,禁止将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点;若该待融合线结构光图像是目标线结构光图像,则将该待融合线结构光图像中所述维度的光条中心点选取为待融合光条中心点。
6.根据权利要求4所述的方法,其特征在于,
所述对所有待融合光条中心点进行插值,得到插值后的光条中心点,包括:
对所有待融合光条中心点进行多项式插值,得到插值后的光条中心点;或者,对所有待融合光条中心点进行三次样条插值,得到插值后的光条中心点。
7.根据权利要求1-6任一项所述的方法,其特征在于,线结构光测量系统至少包括激光器和摄像机,获取多个初始线结构光图像的过程,包括:
在待测物体沿着运动方向进行运动的过程中,通过所述激光器投射线结构光到所述待测物体的表面,并通过所述摄像机对所述待测物体进行拍摄,得到多个初始线结构光图像;其中,所述待测物体沿着运动方向在所述线结构光测量系统的下侧进行水平运动,在所述待测物体的运动过程中,所述待测物体的起始位置至结束位置之间的每个位置,会依次经过所述线结构光测量系统下侧的指定位置,且所述激光器投射线结构光到所述指定位置。
8.一种图像重建装置,其特征在于,所述装置包括:
获取模块,用于获取不同亮度等级的多个初始线结构光图像;
确定模块,用于针对每个初始线结构光图像,确定初始线结构光图像的光条中心线,基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;
选取模块,用于从所述多个初始线结构光图像中选取待融合线结构光图像;
处理模块,用于基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;
重建模块,用于基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建;
所述光条中心线包括多个光条中心点,所述光条中心线的特征信息包括所述多个光条中心点的特征信息;所述基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标,包括:针对所述光条中心线包括的每个光条中心点,基于所述光条中心点的聚类点数以及所述光条中心点的灰度特征值,确定所述光条中心点的可靠度指标;其中,所述光条中心点的可靠度指标与所述光条中心点的聚类点数正相关,所述光条中心点的可靠度指标与所述光条中心点的灰度特征值正相关;基于所述光条中心线的所有光条中心点的可靠度指标确定光条中心线的可靠度指标,所述光条中心线的可靠度指标包括所有光条中心点的可靠度指标。
9.一种图像重建设备,其特征在于,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;
所述处理器用于执行机器可执行指令,以实现如下步骤:
获取不同亮度等级的多个初始线结构光图像;
针对每个初始线结构光图像,则:
确定所述初始线结构光图像的光条中心线,并基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标;从所述多个初始线结构光图像中选取待融合线结构光图像;基于所述初始线结构光图像的光条中心线的可靠度指标和所述待融合线结构光图像的光条中心线的可靠度指标,对所述初始线结构光图像的光条中心线和所述待融合线结构光图像的光条中心线进行融合,得到目标光条中心线;通过所述目标光条中心线替换所述初始线结构光图像的光条中心线,得到所述初始线结构光图像对应的目标线结构光图像;
基于所述多个初始线结构光图像对应的多个目标线结构光图像进行三维重建;
所述光条中心线包括多个光条中心点,所述光条中心线的特征信息包括所述多个光条中心点的特征信息;所述基于所述光条中心线的特征信息确定所述光条中心线的可靠度指标,包括:针对所述光条中心线包括的每个光条中心点,基于所述光条中心点的聚类点数以及所述光条中心点的灰度特征值,确定所述光条中心点的可靠度指标;其中,所述光条中心点的可靠度指标与所述光条中心点的聚类点数正相关,所述光条中心点的可靠度指标与所述光条中心点的灰度特征值正相关;基于所述光条中心线的所有光条中心点的可靠度指标确定光条中心线的可靠度指标,所述光条中心线的可靠度指标包括所有光条中心点的可靠度指标。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011622241.1A CN112669438B (zh) | 2020-12-31 | 2020-12-31 | 一种图像重建方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011622241.1A CN112669438B (zh) | 2020-12-31 | 2020-12-31 | 一种图像重建方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112669438A CN112669438A (zh) | 2021-04-16 |
CN112669438B true CN112669438B (zh) | 2024-09-24 |
Family
ID=75412174
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011622241.1A Active CN112669438B (zh) | 2020-12-31 | 2020-12-31 | 一种图像重建方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112669438B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114494165B (zh) * | 2022-01-14 | 2025-04-25 | 泉州华中科技大学智能制造研究院 | 一种基于聚类的光条提取方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101178811A (zh) * | 2007-12-10 | 2008-05-14 | 北京航空航天大学 | 一种三步法结构光直线光条的图像特征提取方法 |
CN107358593A (zh) * | 2017-06-16 | 2017-11-17 | 广东欧珀移动通信有限公司 | 成像方法和装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108205796B (zh) * | 2016-12-16 | 2021-08-10 | 大唐电信科技股份有限公司 | 一种多曝光图像的融合方法及装置 |
CN109598738A (zh) * | 2018-11-12 | 2019-04-09 | 长安大学 | 一种线结构光中心线提取方法 |
CN110087003B (zh) * | 2019-04-30 | 2021-03-23 | Tcl华星光电技术有限公司 | 多曝光图像融合方法 |
CN110490041B (zh) * | 2019-05-31 | 2022-03-15 | 杭州海康威视数字技术股份有限公司 | 人脸图像采集装置及方法 |
CN111855664B (zh) * | 2020-06-12 | 2023-04-07 | 山西省交通科技研发有限公司 | 一种可调节隧道病害三维检测系统 |
CN112150399B (zh) * | 2020-09-27 | 2023-03-07 | 安谋科技(中国)有限公司 | 基于宽动态范围的图像增强方法及电子设备 |
-
2020
- 2020-12-31 CN CN202011622241.1A patent/CN112669438B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101178811A (zh) * | 2007-12-10 | 2008-05-14 | 北京航空航天大学 | 一种三步法结构光直线光条的图像特征提取方法 |
CN107358593A (zh) * | 2017-06-16 | 2017-11-17 | 广东欧珀移动通信有限公司 | 成像方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112669438A (zh) | 2021-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2715278B1 (en) | 3d scanner using structured lighting | |
CN110533694B (zh) | 图像处理方法、装置、终端及存储介质 | |
CN107633526B (zh) | 一种图像跟踪点获取方法及设备、存储介质 | |
CN102857686B (zh) | 图像处理装置,控制图像处理装置的方法 | |
US8750626B2 (en) | Apparatus, method and program for detecting a difference between a current image and a previous image | |
KR20130094862A (ko) | 대상물 추적 장치, 대상물 추적 방법 및 제어 프로그램 | |
CN113572958B (zh) | 一种自动触发摄像机聚焦的方法及设备 | |
EP3186780A1 (en) | Systems and methods for image scanning | |
CN101720480A (zh) | 计算深度图 | |
CN112200035A (zh) | 用于模拟拥挤场景的图像获取方法、装置和视觉处理方法 | |
CN113160068A (zh) | 基于图像的点云补全方法及系统 | |
CN110992401A (zh) | 目标跟踪方法、装置、计算机设备和存储介质 | |
Miao et al. | Ds-depth: Dynamic and static depth estimation via a fusion cost volume | |
CN114187188B (zh) | 图像矫正方法、装置及电子设备 | |
CN112669438B (zh) | 一种图像重建方法、装置及设备 | |
US10515455B2 (en) | Optical flow measurement | |
JP2019020839A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN110505398A (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
CN112132914A (zh) | 一种图像尺度空间建立方法及图像处理芯片 | |
CN119283022A (zh) | 一种茶叶嫩芽采摘机器人的多采摘手路径规划控制系统 | |
CN114283089A (zh) | 基于跳跃加速的深度恢复方法、电子设备及存储介质 | |
CN111444852A (zh) | 一种回环检测方法、装置及机器人 | |
Groh et al. | A tool for semi-automatic ground truth annotation of traffic videos | |
JP2006331108A (ja) | 画像処理装置、画像処理方法、および、プログラム | |
CN111383231A (zh) | 一种基于3d图像的图像分割方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 310051 room 304, B / F, building 2, 399 Danfeng Road, Binjiang District, Hangzhou City, Zhejiang Province Applicant after: Hangzhou Hikvision Robot Co.,Ltd. Address before: 310051 room 304, B / F, building 2, 399 Danfeng Road, Binjiang District, Hangzhou City, Zhejiang Province Applicant before: HANGZHOU HIKROBOT TECHNOLOGY Co.,Ltd. |
|
CB02 | Change of applicant information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |