CN103047943B - 基于单投射编码结构光的车门外板形状尺寸检测方法 - Google Patents
基于单投射编码结构光的车门外板形状尺寸检测方法 Download PDFInfo
- Publication number
- CN103047943B CN103047943B CN201210590601.3A CN201210590601A CN103047943B CN 103047943 B CN103047943 B CN 103047943B CN 201210590601 A CN201210590601 A CN 201210590601A CN 103047943 B CN103047943 B CN 103047943B
- Authority
- CN
- China
- Prior art keywords
- image
- coordinate
- projection
- point cloud
- array
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 113
- 238000000034 method Methods 0.000 claims abstract description 114
- 238000004364 calculation method Methods 0.000 claims abstract description 31
- 238000013461 design Methods 0.000 claims abstract description 28
- 238000011156 evaluation Methods 0.000 claims abstract description 9
- 238000000605 extraction Methods 0.000 claims description 39
- 238000010586 diagram Methods 0.000 claims description 30
- 230000008569 process Effects 0.000 claims description 21
- 239000013598 vector Substances 0.000 claims description 21
- 238000004422 calculation algorithm Methods 0.000 claims description 20
- 230000003068 static effect Effects 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 claims description 16
- 230000011218 segmentation Effects 0.000 claims description 16
- 238000013519 translation Methods 0.000 claims description 10
- 238000003491 array Methods 0.000 claims description 9
- 230000008859 change Effects 0.000 claims description 9
- 239000000284 extract Substances 0.000 claims description 9
- 230000009286 beneficial effect Effects 0.000 claims description 8
- 238000010845 search algorithm Methods 0.000 claims description 7
- 238000003909 pattern recognition Methods 0.000 claims description 6
- 238000001914 filtration Methods 0.000 claims description 4
- 230000006870 function Effects 0.000 claims description 4
- 238000012804 iterative process Methods 0.000 claims description 4
- 230000009467 reduction Effects 0.000 claims description 4
- 238000012552 review Methods 0.000 claims 13
- 238000013459 approach Methods 0.000 claims 2
- 230000001149 cognitive effect Effects 0.000 claims 2
- 230000008878 coupling Effects 0.000 claims 2
- 238000010168 coupling process Methods 0.000 claims 2
- 238000005859 coupling reaction Methods 0.000 claims 2
- 125000004122 cyclic group Chemical group 0.000 claims 2
- 230000000903 blocking effect Effects 0.000 claims 1
- 239000003623 enhancer Substances 0.000 claims 1
- 239000003550 marker Substances 0.000 claims 1
- 230000000873 masking effect Effects 0.000 claims 1
- 230000003287 optical effect Effects 0.000 claims 1
- 238000012856 packing Methods 0.000 claims 1
- 238000004064 recycling Methods 0.000 claims 1
- 238000005728 strengthening Methods 0.000 claims 1
- 238000012360 testing method Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 15
- 238000012545 processing Methods 0.000 abstract description 11
- 230000000007 visual effect Effects 0.000 abstract description 3
- 238000007781 pre-processing Methods 0.000 description 8
- 238000010276 construction Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 230000002708 enhancing effect Effects 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000012938 design process Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000004392 development of vision Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于单投射编码结构光的车门外板形状尺寸检测方法,旨在打破结构光视觉检测技术用于汽车车门外板形状尺寸在线检测是罕见的状况。步骤为:1.结构光检测系统标定阶段:对摄像机(2)和投影仪(4)进行标定,建立起空间位置和图像坐标之间对应的非线性关系;2.编码投影模板设计阶段;3.检测图像解码识别阶段:利用投影仪(4)向车门外板表面投射编码投影模板,再利用摄像机(2)对车门外板表面图像进行拍摄,将拍摄的图像传送到计算机中进行图像处理以及识别;4.空间点云坐标计算以及误差评定阶段:1)计算车门外板表面投影图像特征点的三维空间坐标;2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准。
Description
技术领域
本发明涉及一种针对车门外板形状尺寸的非接触在线检测方法,更具体地说,本发明涉及一种基于单投射编码结构光的车门外板形状尺寸检测方法。
背景技术
汽车车门外板多为空间立体曲面,一般是指汽车冲压件和多个冲压件焊接而成的组件;车门外板形状尺寸检测是评价汽车车门外板制造质量的一个重要手段,车门外板制造精度严重影响着汽车的装配、安全以及视觉美观性。目前常用的检测手段主要是利用三坐标测量机进行抽样离线检测,虽然可以获得较高检测精度,但是由于其属于点对点的接触性检测,容易对车门表面造成破坏,而且耗用的时间较长,因此无法实现100%在线检测。21世纪以来,基于视觉的三维感知技术的发展推动了制造工业检测手段的巨大变革,一个特定物体的空间轮廓尺寸可以仅有一系列的点形成,即点云。结构光视觉技术具有非接触、大量程和自动化程度高等优势,可以通过投射一副特定编码模板到检测物体表面,由于模板是经过伪随机阵列编码的,因此只需投射一副图像,有利于进行对车门外板进行在线尺寸检测,最后采用三角测量法对物体表面特征点的空间坐标进行计算,可以获得描述车门外板表面特征的三维点云,具有速度快,自动化程度高、精度较高的优点,具有较大的发展潜力。
基于空间邻域编码策略的结构光三维视觉技术,自二十一世纪来在国内已经取得了较大的发展,目前就结构光视觉技术本身研究而言,已经发表了较多的专利和论文。关于结构光三维视觉技术在三维重构方面的应用可以参阅中国专利公布号为CN101697233A,公布日为20120606,发明名称为“一种基于结构光的三维物体表面重建方法”以及香港大学SongZhan的博士学位论文(SongZhan.UseofStructuredLightfor3DReconstruction,TheChineseUniversityofHongKong,August2008),该论文对结构光技术的几种常用方法都给出详细的介绍以及具体的应用过程。虽然目前关于结构光视觉技术的研究越来越多,但是将结构光视觉检测技术应用于汽车车门外板形状尺寸在线检测的研究却十分罕见。
发明内容
本发明所要解决的技术问题是打破结构光视觉检测技术应用于汽车车门外板形状尺寸在线检测是十分罕见的状况,提供了一种基于单投射编码结构光的车门外板形状尺寸检测方法。
为解决上述技术问题,本发明是采用如下技术方案实现的:所述的基于单投射编码结构光的车门外板形状尺寸检测方法的步骤如下:
1.结构光检测系统标定阶段:
为了保证检测的顺利进行,必须对结构光检测系统中的摄像机和投影仪进行标定,建立起空间位置和图像坐标之间的对应的非线性关系,利用这种非线性关系计算检测图像特征点对应的空间坐标;
2.编码投影模板设计阶段:
检测过程中只需投射一幅编码图案到车门外板表面,该编码图案是一个大小为40行45列的由4个不同方向的X-型基元符号构成的图形阵列,图形阵列中图形的排列顺序由一个伪随机M阵列决定,该图形阵列具有以下特性:每3×3子阵列内的图形在整个阵列模板中只出现一次,而且任意两个子阵列中对应位置的图形至少有3个不一样;除边缘外的每个X-型基元符号都经过了编码,其编码值大小都由其3×3邻域内的元素共同决定,该图形阵列根据X-型基元符号较长主惯性轴与基轴夹角不同分别赋予了不同的码字,因此图形阵列又对应着一个40×45的数字阵列,该阵列称为伪随机M阵列;
3.检测图像解码识别阶段:
利用投影仪向轿车车门外板表面投射编码投影模板,再利用摄像机对车门外板表面图像进行拍摄,并将拍摄的图像传送到计算机中进行图像处理以及识别;
4.空间点云坐标计算以及误差评定阶段:
(1)计算车门外板表面投影图像特征点的三维空间坐标;
(2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准。
技术方案中所述的结构光检测系统标定阶段的步骤如下:
1)对摄像机进行标定:
利用张正友标定的方法进行标定,采用投影仪投射设计的12×16黑白棋盘格标靶到标定平面的右侧,然后再利用摄像机拍摄整个标定平面,拍摄得到的12幅图像中左下角的摄像机标靶图像进行特征角点提取,每个摄像机标靶图像提取100个角点,12幅图像总共得到1200个特征角点图像坐标,根据张正友标定方法,世界坐标系设定在棋盘格图像最左上角处的一个角点上,Z方向坐标值取为零,由于每个棋盘格尺寸大小精确设计为30mm,因此棋盘格特征角点在X和Y方向的世界坐标可精确得知,因此在得到平面图像特征角点坐标以及对应点的空间坐标以后,即可利用工具箱完成标定,计算得到摄像机的内外部参数;
2)对投影仪进行标定:
对摄像机图像中的投影标靶进行特征角点的提取,然后再根据已经得到的摄像机的内外参数结果,根据光平面相交法计算位于标定平面上投影图像的特征角点在世界坐标系下的空间坐标,至此,投影标靶的图像坐标和空间坐标都已经计算得出,因此,采用与摄像机标定相同的方法计算投影仪标定参数,得到投影仪的内外部参数以及投影仪和摄像机之间的旋转平移矩阵。
技术方案中所述的编码投影模板设计阶段的步骤如下:
1)对应图形阵列的伪随机M数组生成:
伪随机M数组的特征在于,特定3×3窗口的子数组在全部数组中具有唯一性,任意两个窗口之间的汉明距离越大,表示两者之间的区别越大,伪随机M数组汉明距离计算方式如下式:
其中:V(ij)表示3×3邻域的9元素向量,H表示两不同3×3邻域之间对应位置向量出现不同码字的次数,即为汉明距离,汉明距离越大,表示窗口相异程度越大,编码投影模板设计阶段中构造的伪随机M阵列,将最小汉明距离大小设定为3,即表示任意两个3×3窗口的子阵列对应的元素至少有3个是不一样的,这样的设计有利于增强子阵列的稳定性以及对检测对象表面空间变化程度的适应性;
编码投影模板设计阶段中需要生成数字基元为{0,1,2,3},最小汉明距离等于3,大小为40×45的伪随机M阵列;采用循环填充法完成符合编码投影模板设计要求的伪随机阵列构建,首先在阵列左上角生成3×3的子阵列,然后沿右侧依次代入3×1的子阵列,比较相邻3×3窗口间的汉明距离大小是否符合条件,不符合重新代入,符合条件则依次向右进行直到边界为止;然后沿初始3×3数组的下方依次代入1×3子阵列,方法同上,直到边界为止;其次再依次在4×4的空白位置代入一个新的码值,组成一个新的3×3子阵列,和前面生成的所有子阵列比较汉明距离大小,符合条件继续,不符合重新代入,如代入所有可能码字都不满足,则重新开始本次构建过程;
2)基于几何特征的X-型基元符号设计:
构造编码投影模板的几何基元图形常采用方形或者圆形,但是由于出现阴影或者遮挡情况下,以几何中心作为特征角点的圆形或者方形图案比较容易发生几何中心的偏移或者产生歧义角点,导致角点坐标提取不准,而根据棋盘格的角点特征,设计一类X-型的几何基元在遮挡或者缺失的情况下具有比较稳定的角点特征,该X-型基元符号以棋盘格图像为特征设计,关于特征角点中心对称,由成中心对称的三角形或正方形组成,根据较长主惯性轴与基轴之间的夹角角度大小{0°,45°,90°,135°}的不同分别对应4个码字{0,1,2,3};
根据上述的对应的码字和图形的对应关系,按照得到的伪随机M阵列模版,将X-型基元依次代入到图形阵列模板当中,生成大小为768×1024的编码投影模板,单个X-型基元符号大小为10×10pixel,X-型基元符号间的间隔设定为9pixel,该编码投影模板以黑色为背景,白色作为X-型基元图形的底色,生成单色编码投影模板,有利于降低车门外板表面反光程度。
技术方案中所述的检测图像解码识别阶段的步骤如下:
1)对摄像机图像中车门外板表面的初始检测的图像进行图像预处理;
2)对摄像机图像中车门外板表面的投影图像进行基元分割及模式识别;
3)对摄像机图像中车门外板表面投影图像特征角点和编码投影模板特征角点进行立体匹配。
技术方案中所述的对摄像机图像中车门外板表面的初始检测的图像进行图像预处理包括如下步骤:
1)对摄像机图像中的目标区域图像采取掩膜操作,获得投射有编码投影模板的车门外板表面的局部区域图像,剔除无用背景区域;
2)对获得的目标区域图像进行高斯滤波,剔除噪声;
3)计算目标区域图像背景的平均灰度值,并与原始图像灰度值相减,对背景进行剔除,使背景灰度均匀化,避免背景图像中灰度梯度变化,影响边缘提取的结果,导致提取出过多的非基元符号边缘,给分割标记带来干扰;
4)为了使目标区域图像中的X-型基元符号边缘更加突出,采用拉普拉斯5邻域边缘增强法强化目标区域图像中X-型基元符号边缘,利于边缘提取。
技术方案中所述的对摄像机图像中车门外板表面的投影图像进行基元分割及模式识别包括如下步骤:
1)X-型基元符号边缘提取及分割标记:
采用canny算子对局部目标区域图像进行边缘提取,能够获得全部X-型基元符号的边缘以及大量非基元符号边缘,边缘提取后图像为二值图像,边缘部分强度值为1,非边缘强度值为0;在进行角点计算以及较长主惯性轴角度计算时,要利用到所有的基元符号的边缘的坐标位置,如果存在较多的非基元符号的边缘,会导致出现多个非基元符号特征角点以及角点提取不准,因此需要进行剔除;并且由于在计算X-型基元符号边缘图像的特征角点坐标以及对X-型基元符号的码字进行还原需要单独对每个X-型基元符号边缘进行计算,使得不同的X-型基元符号之间保持相对独立,在计算过程中互不影响,因此还需要对每个X-型基元符号采用分割标记算法对不同的X-型基元符号进行分类标号,按照标号的不同依次进行计算,不同标号的X-型基元符号不能同时进行运算;
2)摄像机图像中车门外板表面投影图像特征角点提取:
a.基于形心的特征角点粗定位:
采用形心坐标计算公式,对得到的每个X-型基元符号的边缘坐标以及灰度强度值对按照标记顺序利用静矩公式单独计算形心坐标;
首先静矩公式为:
公式中:x表示x轴方向坐标值,y表示y轴方向坐标值,p、q取值根据计算的不同坐标轴的静矩来定,当计算x轴的静矩时p为0,q为1,当计算y轴静矩时p为1,q为0;将静矩公式引入到图像处理当中可写成:
其中:k与l的乘积表示目标图像像素大小,f(i+1,j+1)表示图像坐标(i,j)处像素点的灰度强度,由于图像坐标系原点置于图像左上方的像素点上,图像坐标(0,0)正好对应像素坐标(1,1),因此每个像素点的坐标大小相对于其像素位置需要减1,在此处图像中边缘像素点为全部1,其余像素点都为0;
则形心坐标为:
xc表示X-型基元符号在x方向的形心坐标;
yc表示X-型基元符号在y方向的形心坐标;
计算X-型基元符号形心时,根据标号1-n从小到大依次进行,当对标号为a的基元符号边缘计算形心坐标时,其中:1≤a≤n,只有标号为a的边缘坐标像素灰度值大小为1,其余都全部设定为零,因此避免其他边缘的对形心坐标计算的影响,同理依次进行n次计算,计算得到所有X-型基元符号边缘图像的形心坐标;
b.基于Harris的特征角点精定位
由于采用基于形心的角点粗定位算法是基于X-型基元符号的边缘形状得到的角点坐标,当X-型基元符号发生变形时,得到的角点坐标相对于其真实角点坐标会发生偏移,因此在完成角点粗定位之后,还需将角点粗定位得到的结果代入到原初始图像中,在原始图像中以粗定位提取得到的坐标为中心,在其3×3的邻域内采用Harris角点提取算法根据灰度梯度进行搜索,寻找梯度变化最大点,取灰度梯度最大点位置坐标作为精定位坐标,得到的特征角点精定位结果;
3)对摄像机图像中车门外板表面投影图像中X-型基元符号进行码字识别还原:
采用计算较长主惯性轴和基轴之间的夹角对码字进行还原,采用惯性力矩积分公式计算较长主惯性轴和基轴之间的夹角,惯性力矩积分公式如下:
较长主惯性轴与水平坐标轴之间夹角公式如下:
X-基元符号上的小箭头方向指向的是较长主惯性轴的方向,而水平相邻的两个X-型基元形心之间的连线为基线,由于在投影过程中,由于无法保证水平投影使得图形阵列与水平方向保持一致,因此基线与水平方向之间存在着一定大小的角度,其夹角公式为:
其中:(xn,yn)表示的是第n个X-型基元符号的特征角点坐标,则最后可得较长主惯性轴和基线之间夹角为:
Δ=α-β(14)
将差值范围设定为±10°,比较Δ与{0,45,90,135}之间的差值,如果两者之间的差值在设定误差范围内,则按照对应角度对应的{0,1,2,3}进行码字还原,依次进行比较,得到检测图像的码字矩阵。
技术方案中所述的对摄像机图像中车门外板表面投影图像特征角点和编码投影模板特征角点进行立体匹配是指:
对目标图像完成解码工作之后,得到一个码字阵列,每个码字代表的不仅是一个X-型基元符号,而且也代表这个X-型基元符号的特征角点,同时也代表特征角点的图像坐标,为了确定目标图像中X-型基元符号在投影模板中的具体位置,即确定拍摄图像中X-型基元符号在投影模板中的对应位置,或者说摄像机图像中车门外板表面投影图像中特征角点所对应的在投影模板中的对应角点位置,实现摄像机图像和投影模板的一一匹配,根据基于邻域的空间编码策略,每个X-型基元符号的码值都由其上下左右8个邻域组成,因此为了方便立体匹配的进行,需要按照图中所示组合方式计算每个X-型基元符号的码值,这样得到的码值具有唯一性;
在得到每个对应X-型基元符号的码值之后,再采用循环搜索算法对原始伪随机M阵列进行搜索,根据检测得到的码值对原始编码投影模板的码值进行循环对比,取相似度最高的码值作立体匹配的结果,确定检测图像中每个X-型基元符号在原始编码投影模板中对应的位置。
技术方案中所述的空间点云坐标计算及误差评定阶段的步骤如下:
1)计算车门外板表面投影图像特征点的三维空间坐标
在实现摄像机图像特征角点和投影图像特征角点的一一匹配之后,利用结构光检测系统的标定结果,采用三角测量法计算出车门外板表面投影图像特征点的三维空间坐标,其中深度方向的空间坐标ZR的计算公式为:
式中:等表示的是点积操作符,其中和表示的是完成立体匹配的左右图像坐标向量,R和T分别表示的是投影仪坐标系到摄像机坐标系的旋转矩阵和平移向量;采用三角测量法空间坐标计算公式,利用结构光系统标定结果,对车门表面特征点空间坐标进行计算,得到检测点云示意图;
2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准:
采用基于ICP的配准方法,其主要步骤分为粗配准和精配准两步,粗配准方法以高斯曲率和平均曲率作为配准特征,计算检测点云中每个点的高斯曲率和平均曲率,在点云模型中搜索与之最接近的点,设定误差条件,使检测点云与点云模型达到比较接近的状态,得初始配准结果;对初始匹配后的检测点云和点云模型采用ICP算法进行精确配准,使得检测点云和点云模型之间的形状偏差达到最小,采用的最小距离目标函数为:
上式中,{pj(xj,yj,zj)|=1,2...k}=Pp为进行初始配准后得到的检测点云,{nj(xj,yj,zj)|j=1,2...k}=Nc为点云模型,得到的点云配准最终结果;
使检测点云与点云模型达到最佳配准之后,为了简化图像处理迭代过程,通过最近点搜索算法对配准后检测点云在点云模型中的最近点进行搜索,计算两者之间的距离,以此表示偏差;
为了更加清晰的表示出检测点云中不同区域的误差大小,利用颜色色斑图对误差进行表示,首先将颜色索引级别设定为64个级别,建立点云偏差数据和颜色索引之间的关系式如下:
公式中:Δ表示得到的偏差值大小,Δmax表示最大偏差值,Δmin表示最小偏差值,L表示颜色索引分级,RGB_level能计算得到检测点云中所有点的颜色索值大小。
与现有技术相比本发明的有益效果是:
1.目前针对车门外板外表面形状尺寸检测主要采用的是三坐标测量机,虽然检测精度较高但是检测速度较慢,而且不能实现100%在线检测,只能抽样检测,而且接触性检测容易对表面造成划伤。本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法以计算机视觉技术为基础,开发了一种能够针对运动物体进行形状尺寸检测的非接触检测方法,能实现自动化操作,检测速度较快,能够达到对车门外板外表面的100%在线检测目的。
2.本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法采用基于空间邻域编码策略的结构光视觉技术对运动物体进行检测,设计了一种以X-型几何图案作为基元的投影仪编码模板,当检测对象表面发生遮挡或者深度剧烈变化时,投影到检测物体表面的投影基元会随表面结构变化发生变形,X-型基元能够有效地改善基元变形导致的几何特征点位置的偏移现象,保证特征角点提取精度。
3.本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法采用的结构光系统标定方法较为简便快捷,只需要进行一次成像即能完成摄像机和投影仪标定,方便实时搭建检测系统;同时采用颜色色斑图对检测误差进行表示,有利于检测结果清晰化。
附图说明
下面结合附图对本发明作进一步的说明:
图1是本发明所采用的基于单投射编码结构光的车门外板形状尺寸检测系统在线检测车门外板表面形状尺寸的示意图;
图2-a是本发明所采用的基于单投射编码结构光的车门外板形状尺寸检测方法中的摄像机成像示意图;
图2-b是本发明所采用的基于单投射编码结构光的车门外板形状尺寸检测方法中的投影仪投影图像示意图;
图3-1是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中的光平面相交示意图(任意平面);
图3-2是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中的空间几何变换原理示意图;
图4是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中的光平面相交示意图(标定平面);
图5-a是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中生成的随机3x3子阵列示意图;
图5-b是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中向右按顺序添加3x1列向量示意图;
图5-c是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中向下按顺序添加1x3行向量示意图;
图5-d是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中按顺序添加一个随机基元值构成一个新的3x3子阵列示意图;
图6是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对应用于检测车门外板表面形状尺寸的编码投影模板中码字排列规则的伪随机M阵列部分阵列结果示意图;
图7是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中用于检测车门外板表面形状尺寸的投影模板中的X-型基元符号以及码字分类规则示意图;
图8-a是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中用于投影仪投影到车门外板表面检测形状尺寸大小的伪随机M阵列编码投影模板;
图8-b是图8-a中矩形方框局部区域的放大示意图;
图9是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对采用摄像机对车门外板表面投影图像进行拍摄得到的灰度图像进行图像预处理操作的流程框图;
图10是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对预处理之后车门外板表面X-型基元符号边缘增强图像进行基元分割标记及解码识别操作的流程框图;
图11是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对预处理后的得到检测图像进行边缘提取得到的X-型基元符号边缘示意图;
图12-a是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对X-型基元符号边缘图像进行基元分割标记以及非基元区域剔除后得到的X-型基元符号边缘图像;
图12-b是图12-a中矩形方框局部区域的放大示意图;
图13是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对摄像机图像中车门外板表面投影图像进行边缘提取后进行特征角点粗定位得到粗定位结果局部区域放大图;
图14是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对摄像机图像中车门外板表面投影图像以特征角点粗定位坐标为中心在3×3邻域内进行Harris特征角点精定位得到的特征角点精定位结果局部区域放大图;
图15是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中摄像机图像中车门外板表面投影图像中局部区域X-型基元符号较长主惯性轴与基轴之间夹角示意图;
图16是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中对检测得到的车门外板表面投影图像以及投影模板中非边缘基元进行编码的码值组合方式示意图;
图17是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中采用编码结构光视觉技术对车门外板表面形状尺寸进行检测得到的三维点云示意图;
图18是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中采用三坐标测量机对车门外板进行检测得到的点云CAD模型示意图;
图19是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中将检测得到的三维点云和三坐标测量机检测得到的点云CAD模型置于同一世界坐标系下得到的检测点云和点云CAD模型相对位置示意图;
图20-a是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中采用基于ICP的配准算法对点云进行粗配准的结果示意图;
图20-b是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中采用基于ICP的配准算法对点云进行精配准的结果示意图;
图21是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中采用计算两点云之间最近点之间距离的方法表示检测点云和点云CAD模型之间偏差得到的偏差统计分布图;
图22是本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法的流程框图;
图中:1.车门外板流水线,2.摄像机,3.信息处理终端设备,4.投影仪,
具体实施方式
下面结合附图对本发明作详细的描述:
参阅图1,图中是本发明设计的一种基于单投射编码结构光的车门外板形状尺寸检测系统的简化示意图,其中标注1的是车门外板流水线,标注2的是摄像机,标注3的是信息处理终端设备,标注4的是投影仪,当车门外板流水线1沿轨道缓慢移动时,由投影仪4投影图案到车门外板表面,然后再由摄像机2进行摄取,再传输到信息处理终端设备3进行处理,最终得到车门外板表面的检测结果,将所得检测结果与点云CAD模型进行对比,既可获知该车门外板表面的制造精度是否满足生产要求。
检测时,摄像机2位于车门外板正前方1.5米处,摄像机2采用的是北京大恒图像设备公司生产的型号为DH-HV1302UM-T的分辨率为1280×1024的CMOS和焦距f为12.5-75mm的CCTV镜头;投影仪4被放置于车门外板正前方1.5米处,使用型号是InfocusLP260的投影仪,标准分辨率为800×600,支持最大分辨率为1024×768。参阅图2,标定平面为一个长2米宽1米的白底写字板,左下角粘有9×9的摄像机棋盘格标靶,右侧留有空间以供投射投影棋盘格标靶。
车门外板形状尺寸的整个检测过程主要分成4个阶段:1.基于单投射编码结构光的车门外板形状尺寸检测系统(简曰结构光检测系统)标定阶段;2.编码投影模板设计阶段;3.检测图像解码识别阶段;4.空间点云坐标计算以及误差评定阶段。
1.结构光检测系统标定阶段
为了保证检测的顺利进行,首先必须对本方法所采用的设备即结构光检测系统的两个组成部分即摄像机2和投影仪4进行标定,才能建立起空间位置和图像坐标之间的对应的非线性关系,利用这种非线性关系,才能计算检测图像特征点对应的空间坐标。
本发明采用基于平面的标定方法对结构光检测系统进行标定,共拍摄12幅图像,摄像机2以标定平面左下角尺寸为270×270mm的9×9黑白棋盘格图像作为标靶,投影仪标靶是采用投影仪4投射到标定平面右侧的12×16黑白棋盘格图像。
1)对摄像机进行标定
参阅图2,利用张正友标定的方法(ZHANGZY,AFlexibleNewTechniqueforCameraCalibration[R].MicrosoftCorporation,NSR-TR-98-71,1998)进行标定,首先在标定平面的左下角粘贴9×9的摄像机棋盘格标靶并用投影仪4投射设计的12×16棋盘格标靶到标定平面的右侧,然后再利用摄像机2拍摄整个标定平面,标定平面如图2-a所示。将拍摄得到的12幅图像中左下角的摄像机棋盘格标靶图像进行特征角点提取,每个摄像机棋盘格标靶图像可以提取100个角点,12幅图像总共得到1200个特征角点图像坐标。根据张正友标定方法,世界坐标系设定在摄像机棋盘格标靶图像最左上角处的一个角点上,Z方向坐标值取为零,由于每个棋盘格尺寸大小精确设计为30mm,因此棋盘格特征角点在X和Y方向的世界坐标可精确得知。因此在得到标定平面上棋盘格标靶图像特征角点坐标以及对应点的空间坐标以后,即可利用工具箱完成标定,计算得到摄像机2的内外部参数。
2)对投影仪进行标定
参阅图3-1,首先对摄像机图像中的投影标靶进行特征角点的提取,然后再根据已经得到的摄像机2的内外参数结果,根据光平面相交法可以计算位于标定平面上投影图像的特征角点在世界坐标系下的空间坐标,至此,投影模板的图像坐标和空间坐标都已经计算得出,因此可以采用与摄像机标定相同的方法计算投影仪的标定参数,得到投影仪4的内外部参数以及投影仪4和摄像机2之间的旋转平移矩阵。
由于需要在摄像机2标定的基础上,采用光平面相交法计算标定平面上投影图像特征角点的空间坐标,因此需要对光平面相交法进行详细介绍:
参阅图3-2,根据空间几何变换原理可知,在一个三维空间当中对一个平面进行定义,只需要知道该平面上任意一个已知点以及通过该点的一个非0的法向量既可。而旋转矩阵R的第三列向量n可以看作是摄像机2参考坐标系下,通过世界坐标系原点的标定平面π的法向量,而平移矩阵可以看作是世界坐标系原点p在摄像机坐标系下的空间坐标。
因此标定平面π上任意点r的方程可以表示为:
n×(r-p)=0(1)
公式(1)为两矢量间数量积形式,用表示是笛卡尔坐标系各方向单位向量,则法向量n以及点向量r可以表示为:
设d=-n×p,由于n和p已知,因此d也可知,标定平面π的方程可以表示为:
ax+by+cz+d=0,(a,b,c∈R且不都等于0)(4)
利用摄像机2标定结果,将摄像机图像中投影仪标靶特征角点图像坐标代入到反透视投影变换矩阵当中,计算其对应的空间点坐标,公式如下:
s在上式中表示比例因子,Kint和Kext分别表示摄像机的内外部参数,s的大小确定了计算得到的空间点坐标在空间中的具体位置和深度,如图3所示,当s不同时,空间点坐标所形成的平面在空间中的位置也不同。因此为了求解标定平面上投影图像特征点的空间坐标,需要确定一个比例因子s,使得采用式(5)计算得到的空间点位于标定平面上,如图4所示,在计算得到特定比例因子s的情况下,空间点都位于标定平面上,则此时得到空间点坐标则为标定平面上投影图像特征角点的世界坐标。因此将空间坐标(sRx,sRy,sRz)代入到平面方程式(4)中,得到的公式如下:
a(sRx)+b(sRy)+c(sRz)+d=0(6)
上式中a、b、c以及d均为已知数,Rx、Ry以及Rz可以通过摄像机2的标定结果利用透视投影变换公式既可求出。得到标定平面上投影图像特征角点的空间坐标后,同时再对投影仪投射的投影标靶进行特征角点提取,则可以获得标定所需的全部二维的图像坐标以及对应的空间三维坐标,再利用“逆相机”标定方法,既可对投影仪4进行标定。
根据得到摄像机2以及投影仪标定结果,进行反投影误差计算,摄像机2标定在x方向的平均误差为0.17827pixel,摄像机2标定在在y方向的平均误差为0.16199pixel;投影仪标定在x方向的平均误差为0.38383pixel,投影仪标定在y方向的平均误差为0.4555pixel。摄像机2和投影仪4之间的旋转平移矩阵为:
2.编码投影模板设计阶段
为满足100%在线检测,实现对动态对象的检测目的,本发明所述的基于单投射编码结构光的车门外板形状尺寸检测方法中采用的是基于邻域编码策略的结构光视觉技术,在检测过程中只需投射一幅编码图案,该编码图案是一个大小为40行45列的由4个不同方向的X-型基元符号构成的图形阵列,图形阵列中图形的排列顺序由一个伪随机M阵列决定,该图形阵列具有以下特性:每3×3子阵列内的图形在整个阵列模板中只出现一次,而且任意两个子阵列中对应位置的图形至少有3个不一样。除边缘外的每个X-型基元符号都经过了编码,其编码值大小都由其3×3邻域内的元素共同决定。该图形阵列根据X-型基元符号较长主惯性轴与基轴夹角不同分别赋予了不同的码字,因此图形阵列又对应着一个40×45的数字阵列,该阵列称为伪随机M阵列,伪随机M阵列具有的特性决定了图形阵列的特性,采用本发明设计的编码投影模板有利于实现对动态物体的检测,并且具有较好的适应性和稳定性。
1)对应图形阵列的伪随机M数组生成
伪随机M数组的特征在于,特定窗口大小(3×3)的子数组在全部数组中具有唯一性,任意两个窗口之间的汉明距离越大,表示两者之间的区别越大。伪随机M数组汉明距离计算方式如下式:
其中:V(ij)表示3×3邻域的9元素向量,H表示两不同3×3邻域之间对应位置向量出现不同码字的次数,即为汉明距离,汉明距离越大,表示窗口相异程度越大。本发明构造的伪随机M阵列,将最小汉明距离大小设定为3,即表示任意两个3×3窗口的子阵列对应的元素至少有3个是不一样的,这样的设计有利于增强子阵列的稳定性以及对检测对象表面空间变化程度的适应性。
参阅图5-a至图5-d与图6,本发明需要生成数字基元为{0,1,2,3},最小汉明距离等于3,大小为40×45的伪随机M阵列;采用图中所示循环填充法可以完成符合本发明要求的伪随机阵列构建,首先在阵列左上角生成3×3的子阵列,然后沿右侧依次代入3×1的子阵列,比较相邻3×3窗口间的汉明距离大小是否符合条件,不符合重新代入,符合条件则依次向右进行直到边界为止;然后沿初始3×3数组的下方依次代入1×3子阵列,方法同上,直到边界为止;其次再依次在4×4的空白位置代入一个新的码值,组成一个新的3×3子阵列,和前面生成的所有子阵列比较汉明距离大小,符合条件继续,不符合重新代入,如代入所有可能码字都不满足,则重新开始本次构建过程。本发明采用图5-a至图5-d中所示方法得到的最小汉明距离等于3的部分阵列结果如图6所示。
2)基于几何特征的X-型基元符号设计
一般来说,构造编码投影模板的几何基元图形常采用方形或者圆形,但是由于出现阴影或者遮挡情况下,以几何中心作为特征角点的圆形或者方形图案比较容易发生几何中心的偏移或者产生歧义角点,导致角点坐标提取不准。而本发明根据棋盘格的角点特征,设计一类X-型的如图7中所示的几何基元在遮挡或者缺失的情况下具有比较稳定的角点特征。该X-型基元符号以棋盘格图像为特征设计,关于特征角点中心对称,由成中心对称的三角形或正方形组成。根据较长主惯性轴与基轴之间的夹角角度大小{0°,45°,90°,135°}的不同分别对应4个码字{0,1,2,3}。
根据上述的对应的码字和图形的对应关系,按照得到的伪随机M阵列模版,将X-型基元符号依次代入到图形阵列模板当中,生成大小为768×1024的如图8所示的编码投影模板,单个X-型基元符号大小为10×10pixel,X-型基元符号间的间隔设定为9pixel。该编码投影模板以黑色为背景,白色作为X-型基元符号的底色,生成单色编码投影模板,有利于降低车门外板表面反光程度。
3.检测图像解码识别阶段
完成结构光检测系统标定以及编码投影模板设计后,可以开始进行检测;首先将已完成编码的投影模板通过计算机与投影仪4相连接,利用投影仪4向轿车车门外板表面投射本发明设计的编码投影模板,再从一个合适的角度利用摄像机2对车门外板表面图像进行拍摄,并将拍摄的图像传送到个人计算机中进行一系列图像处理以及识别过程。
1)对摄像机图像中车门外板表面的初始检测图像进行图像预处理
参阅图9,由于摄像机2拍摄的图像具有较多的无用背景,而且图像容易受到车门外板表面反光以及噪声影响,因此需要剔除无用的背景减少图像处理时间以及复杂程度,并且对图像反光进行调整并对噪声进行降噪处理,对摄像机2拍摄的车门外板表面初始检测图像进行图像预处理的步骤如下:
(1)对摄像机图像中的目标区域图像采取掩膜操作,获得摄像机图像中车门外板表面投影有所设计的编码投影模板的局部区域图像,剔除无用背景区域;
(2)对获得的目标区域图像进行高斯滤波,剔除噪声;
(3)计算目标区域图像背景的平均灰度值,并与原始图像灰度值相减,对背景进行剔除,使背景灰度均匀化,避免背景图像中灰度梯度变化,影响边缘提取的结果,导致提取出过多的非X-型基元符号边缘,给分割标记带来干扰;
(4)为了使目标区域图像中的X-型基元符号边缘更加突出,采用拉普拉斯5邻域边缘增强法强化目标区域图像中X-型基元符号边缘,以利于边缘提取。
2)对摄像机图像中车门外板表面的投影图像进行基元分割及模式识别
参阅图10,由于在X-型基元符号的定义过程中,我们采用的是利用X-型基元符号较长主惯性轴和基轴之间夹角的不同来对码字进行的分类定义,因此我们需要采用同样的方法对摄像机图像中的X-型基元符号进行识别。首先,我们需要对预处理后的目标区域图像进行X-型基元符号边缘提取,然后再利用提取到的X-型基元符号的边缘点坐标计算X-型基元符号的形心坐标,以形心坐标作为角点粗提取的结果。在形心坐标的基础上对原图像上其邻域内的灰度梯度进行计算,取梯度最大值点作为特征点。由于在投影过程中,不能保持投影图像和水平方向完全水平,因此在计算较长主惯性轴和基轴之间夹角的时候,只能对X-型基元符号的边缘采用惯性力矩公式计算较长主惯性轴和水平轴之间的夹角,然后再利用相邻两个X-型基元符号之间特征角点的坐标计算基轴和水平轴之间的夹角,然后再将两夹角大小相减,即能得到较长主惯性轴和基轴之间的夹角,具体的步骤如下。
(1)X-型基元符号边缘提取及分割标记
由于已经获得了车门外板表面投影有编码投影模板的局部目标区域图像,并进行了图像预处理,因此可以直接采用canny算子对局部目标区域图像进行边缘提取,能够获得全部X-型基元符号的边缘以及大量非基元边缘,边缘提取后图像为二值图像,边缘部分强度值为1,非边缘强度值为0;由于存在大量非基元符号边缘,在接下来进行角点计算以及较长主惯性轴角度计算时,由于要利用到所有的基元符号的边缘的坐标位置,如果存在较多的非基元符号的边缘,会导致出现多个非基元符号特征角点以及角点提取不准,因此需要进行剔除;并且由于在计算X-型基元符号边缘图像的特征角点坐标以及对基元符号的码字进行还原需要单独对每个基元符号边缘进行计算,使得不同的基元符号之间保持相对独立,在计算过程中互不影响,因此还需要对每个基元符号采用分割标记算法对不同的基元符号进行分类标号,按照标号的不同依次进行计算,不同标号的基元符号不能同时进行运算。
参阅图11,采用8邻域区域生长算法从左到右从上到下对图像进行搜索,确保所有独立连通的区域都进行标记和分割,使其可以进行独立操作,互不影响。由于存在大量非基元符号边缘(噪声点或曝光过强区域),经过初步标记得到的标记个数为1810个,还需要对同样经过标记的非基元符号边缘以及噪声点进行剔除。考虑到基元符号边缘形状大小基本一致,即边缘像素个数基本一致,而噪声点以及曝光过强的区域则存在两个极端,噪声点多是零碎的单个或几个像素点,而强光区域则是含有较多的边缘像素点,因此采用平均阈值法对所有标记区域计算像素个数的方法,取平均数的2/3和4/3作为上限和下限,消除噪声点或者曝光区域对X-型基元符号边缘提取结果的影响,同时对符合要求的X-型基元符号边缘区域进行重新标记和分割,标号为1-n,最终标记得到的结果为1713个。对非基元边缘区域进行剔除后得到如图中12-a所示的结果,虽然某些X-型基元符号区域也被误剔除,但是比例非常之小,不影响整体效果,图12-b所示为X-型基元符号边缘点检测放大图。
(2)摄像机图像中车门外板表面投影图像特征角点提取
对标记后得到X-型基元符号边缘图像进行特征角点提取,需要对每个X-型基元符号边缘区域单独进行特征角点坐标计算,其步骤主要分为两步:
a.基于形心的特征角点粗定位
采用形心坐标计算公式,对得到的每个X-型基元符号的边缘坐标以及灰度强度值(1或0)对按照标记顺序利用静矩公式单独计算形心坐标;
首先静矩公式为:
公式(7)中x表示x轴方向坐标值,y表示y轴方向坐标值,p、q取值根据计算的不同坐标轴的静矩来定,当计算x轴的静矩时p为0,q为1,当计算y轴静矩时p为1,q为0。将静矩公式引入到图像处理当中可写成:
上式中k与l的乘积表示目标图像像素大小,f(i+1,j+1)表示图像坐标(i,j)处像素点的灰度强度,由于图像坐标系原点置于图像左上方的像素点上,图像坐标(0,0)正好对应像素坐标(1,1),因此每个像素点的坐标大小相对于其像素位置需要减1。在此处图像中边缘像素点为全部1,其余像素点都为0;
则形心坐标可以为:
xc表示X-型基元符号在x方向的形心坐标;
yc表示X-型基元符号在y方向的形心坐标;
计算X-型基元符号形心时,根据标号1-n从小到大依次进行,当对标号为a(1≤a≤n)的X-型基元符号边缘计算形心坐标时,只有标号为a的边缘坐标像素灰度值大小为1,其余都全部设定为零,因此可以避免其他边缘的对形心坐标计算的影响,同理依次进行n次计算,可以计算得到所有X-型基元符号边缘图像的形心坐标。
b.基于Harris的特征角点精定位
由于采用基于形心的角点粗定位算法是基于X-型基元符号的边缘形状得到的角点坐标,当X-型基元符号发生变形时,得到的角点坐标相对于其真实角点坐标会发生轻微偏移,因此在完成角点粗定位之后,还需将角点粗定位得到的结果代入到原初始图像中,在原始图像中以粗定位提取得到的坐标为中心,在其邻域内(3×3)采用Harris角点提取算法根据灰度梯度进行搜索,寻找梯度变化最大点,取灰度梯度最大点位置坐标作为精定位坐标,得到的特征角点精定位结果如附图14所示,将两者坐标值置于原初始图像中进行比较,结果证明精定位得到的结果较为精确。
(3)对摄像机图像中车门外板表面投影图像中X-型基元符号进行码字识别还原
由于在设计过程中,采用的是X-型基元符号较长主惯性轴和基轴之间的夹角对码字进行归类,因此根据这种对应关系,同样需要采用计算较长主惯性轴和基轴之间的夹角对码字进行还原,一般来说常采用的惯性力矩积分公式计算较长主惯性轴和基轴之间的夹角,惯性力矩积分公式如下:
式中:i表示的是某个基元区域边缘点在x方向的坐标,j表示的在y方向的坐标,f表示的是像素强度值(0或1),xc和ye表示的形心坐标;
较长主惯性轴与水平坐标轴之间夹角公式如下:
参阅图15,X-型基元符号上的小箭头方向指向的是较长主惯性轴的方向,而图中第一行中从左到右,连线相邻两个X-型基元符号的特征角点的连线为基线,由于在投影过程中,无法保证水平投影,使得图形阵列与水平方向保持一致,因此基线与水平方向之间存在着一定大小的角度,其夹角公式为:
其中(xn,yn)表示的是第n个X-型基元符号的特征角点坐标,则最后可得较长主惯性轴和基线之间夹角为:
Δ=α-β(14)
将差值范围设定为±10°,比较Δ与{0,45,90,135}之间的差值,如果两者之间的差值在设定误差范围内,则按照对应角度对应的{0,1,2,3}进行码字还原,依次进行比较,得到检测图像的码字矩阵。
3)对摄像机图像中车门外板表面投影图像特征角点和编码投影模板特征角点进行立体匹配
参阅图16,对目标图像完成解码工作之后,可以得到一个码字阵列,每个码字代表的不仅是一个X-型基元符号,而且也代表这个X-型基元符号的特征角点,同时也代表特征角点的图像坐标。为了确定目标图像中X-型基元符号在投影模板中的具体位置,即确定拍摄图像X-型基元符号在投影模板中的对应位置,或者说摄像机图像中车门外板表面投影图像中特征角点在投影模板中的对应角点位置,实现摄像机图像和投影模板的一一匹配。根据基于邻域的空间编码策略,每个X-型基元符号的码值都由其上下左右8个邻域组成,因此为了方便立体匹配的进行,需要按照图中所示组合方式计算每个X-型基元符号的码值,这样得到的码值具有唯一性。
在得到每个对应X-型基元符号的码值之后,再采用循环搜索算法对原始伪随机M阵列进行搜索,根据检测得到的码值对原始编码投影模板的码值进行循环对比,取相似度最高的码值作立体匹配的结果,确定检测图像中每个X-型基元符号在原始编码投影模板中对应的位置。
4.摄像机图像中车门外板表面投影图像特征角点对应的空间点云坐标计算及误差评定阶段
1)计算车门外板表面投影图像特征点的三维空间坐标
参阅图17,在实现摄像机图像特征角点和投影图像特征角点的一一匹配之后,利用结构光检测系统的标定结果,采用三角测量法计算出车门外板表面投影图像特征点的三维空间坐标,其中深度方向的空间坐标ZR的计算公式为:
式中等表示的是点积操作符,其中和表示的是完成立体匹配的左右图像坐标向量,R和T分别表示的是投影仪坐标系到摄像机坐标系的旋转矩阵和平移向量。采用三角测量法空间坐标计算公式,利用结构光系统标定结果,对车门表面特征点空间坐标进行计算,得到如图中所示的检测点云示意图。
2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准
参阅图17与图18,本发明中计算得到的点云如图17所示,三坐标测量机检测得到的某车门外板表面点云模型如图18所示。由于计算得到的点云和由三坐标测量机得到的点云模型坐标不统一,放入同一坐标系下后,两者不重合,如图19所示,因此需要进行配准,才能进行精度评估。本发明采用的是基于ICP(IterativeClosestAlgorithm)的配准方法,其主要步骤分为粗配准和精配准两步,粗配准方法以高斯曲率和平均曲率作为配准特征,计算检测点云中每个点的高斯曲率和平均曲率,在点云模型中搜索与之最接近的点,设定误差条件,使检测点云与点云模型达到比较接近的状态,初始配准结果如图20-a。对初始匹配后的检测点云和点云模型采用ICP算法进行精确配准,使得检测点云和点云模型之间的形状偏差达到最小,采用的最小距离目标函数为:
上式中,{pj(xj,yj,zj)|=1,2...k}=Pp为进行初始配准后得到的检测点云,{nj(xj,yj,zj)|j=1,2...k}=Nc为点云模型,得到的点云配准最终结果如图20-b。
使检测点云与点云模型达到最佳配准之后,为了简化图像处理迭代过程,通过最近点搜索算法对配准后检测点云在点云模型中的最近点进行搜索,计算两者之间的距离,以此表示偏差,如附图21所示为偏差值域分布图以及偏差值域频率图。
为了更加清晰的表示出检测点云中不同区域的误差大小,本发明中利用颜色色斑图对误差进行表示,首先将颜色索引级别设定为64个级别,建立点云偏差数据和颜色索引之间的关系式如下:
公式16中:Δ表示得到的偏差值大小,Δmax表示最大偏差值,Δmin表示最小偏差值,L表示颜色索引分级,RGB_level能计算得到检测点云中所有点的颜色索值大小。
实施例
一、结构光检测系统标定阶段
1.摄像机标定
参阅图2,利用张正友标定的方法(ZHANGZY,AFlexibleNewTechniqueforCameraCalibration[R].MicrosoftCorporation,NSR-TR-98-71,1998)进行标定,首先在标定平面的左下角粘贴9×9的摄像机棋盘格标靶并用投影仪4投射设计的12×16棋盘格标靶到标定平面的右侧,然后再利用摄像机2拍摄整个标定平面,标定平面如图2-a所示。将拍摄得到的12幅图像中左下角的摄像机棋盘格标靶图像进行特征角点提取,每个摄像机棋盘格标靶图像可以提取100个角点,12幅图像总共得到1200个特征角点图像坐标。根据张正友标定方法,世界坐标系设定在摄像机棋盘格标靶图像最左上角处的一个角点上,Z方向坐标值取为零,由于每个棋盘格尺寸大小精确设计为30mm,因此棋盘格特征角点在X和Y方向的世界坐标可精确得知。因此在得到标定平面上棋盘格标靶图像特征角点坐标以及对应点的空间坐标以后,即可利用工具箱完成标定,计算得到摄像机2的内部参数Kcint以及非线性畸变参数kc如下:
kc=[-0.325021.561770.00075-0.008760.00000]
2)投影仪标定
参阅图3-1,首先对摄像机图像中的投影标靶进行特征角点的提取,然后再根据已经得到的摄像机2的内外参数结果,根据光平面相交法可以计算位于标定平面上投影图像的特征角点在世界坐标系下的空间坐标,至此,投影模板的图像坐标和空间坐标都已经计算得出,因此可以采用与摄像机标定相同的方法计算投影仪的标定参数,得到投影仪4的内部参数以及投影仪4和摄像机2之间的旋转平移矩阵。其中投影仪4的内部参数Kp-int以及非线性畸变参数kp如下:
kp=[0.092470.074290.01070-0.001770]
而影仪4和摄像机2之间的旋转矩阵R和平移矩阵T如下:
二、编码投影模版设计阶段
1)对应图形阵列的伪随机M数组生成
本发明构造的伪随机M阵列,将最小汉明距离大小设定为3,即表示任意两个3×3窗口的子阵列对应的元素至少有3个是不一样的,这样的设计有利于增强子阵列的稳定性以及对检测对象表面空间变化程度的适应性。
参阅图5-a至图5-d与图6,本发明需要生成数字基元为{0,1,2,3},最小汉明距离等于3,大小为40×45的伪随机M阵列;采用图中所示循环填充法可以完成符合本发明要求的伪随机阵列构建,首先在阵列左上角生成3×3的子阵列,然后沿右侧依次代入3×1的子阵列,比较相邻3×3窗口间的汉明距离大小是否符合条件,不符合重新代入,符合条件则依次向右进行直到边界为止;然后沿初始3×3数组的下方依次代入1×3子阵列,方法同上,直到边界为止;其次再依次在4×4的空白位置代入一个新的码值,组成一个新的3×3子阵列,和前面生成的所有子阵列比较汉明距离大小,符合条件继续,不符合重新代入,如代入所有可能码字都不满足,则重新开始本次构建过程。本发明采用图5-a至图5-d中所示方法得到的最小汉明距离等于3的部分阵列结果如图6所示。
2)基于几何特征的X-型基元符号设计
本发明根据棋盘格的角点特征,设计一类X-型的如图7中所示的几何基元在遮挡或者缺失的情况下具有比较稳定的角点特征。该X-型基元符号以棋盘格图像为特征设计,关于特征角点中心对称,由成中心对称的三角形或正方形组成。根据较长主惯性轴与基轴之间的夹角角度大小{0°,45°,90°,135°}的不同分别对应4个码字{0,1,2,3}。
根据上述的对应的码字和图形的对应关系,按照得到的伪随机M阵列模版,将X-型基元符号依次代入到图形阵列模板当中,生成大小为768×1024的如图8所示的编码投影模板,单个X-型基元符号大小为10×10pixel,X-型基元符号间的间隔设定为9pixel。该编码投影模板以黑色为背景,白色作为X-型基元符号的底色,生成单色编码投影模板,有利于降低车门外板表面反光程度。
三、检测图像解码识别阶段
1)对摄像机图像中车门外板表面的初始检测图像进行图像预处理
(1)对摄像机图像中的目标区域图像采取掩膜操作,获得摄像机图像中车门外板表面投影有所设计的编码投影模板的局部区域图像,剔除无用背景区域;
(2)对获得的目标区域图像进行高斯滤波,剔除噪声;
(3)计算目标区域图像背景的平均灰度值,并与原始图像灰度值相减,对背景进行剔除,使背景灰度均匀化,避免背景图像中灰度梯度变化,影响边缘提取的结果,导致提取出过多的非X-型基元符号边缘,给分割标记带来干扰;
(4)为了使目标区域图像中的X-型基元符号边缘更加突出,采用拉普拉斯5邻域边缘增强法强化目标区域图像中X-型基元符号边缘,以利于边缘提取。
2)对摄像机图像中车门外板表面的投影图像进行基元分割及模式识别
参阅图10,由于在X-型基元符号的定义过程中,我们采用的是利用X-型基元符号较长主惯性轴和基轴之间夹角的不同来对码字进行的分类定义,因此我们需要采用同样的方法对摄像机图像中的X-型基元符号进行识别。
(1)X-型基元符号边缘提取及分割标记
本发明直接采用canny算子对已经进行了预处理的局部目标区域图像进行边缘提取,获得全部X-型基元符号的边缘以及大量非基元边缘,边缘提取后图像为二值图像,边缘部分强度值为1,非边缘强度值为0;由于存在大量非基元符号边缘,会导致出现多个非基元符号特征角点以及角点提取不准,因此需要进行剔除;并且由于在计算X-型基元符号边缘图像的特征角点坐标以及对基元符号的码字进行还原需要单独对每个基元符号边缘进行计算,使得不同的基元符号之间保持相对独立,在计算过程中互不影响,因此还需要对每个基元符号采用分割标记算法对不同的基元符号进行分类标号,按照标号的不同依次进行计算,不同标号的基元符号不能同时进行运算。
参阅图11,采用8邻域区域生长算法从左到右从上到下对图像进行搜索,确保所有独立连通的区域都进行标记和分割,使其可以进行独立操作,互不影响。由于存在大量非基元符号边缘(噪声点或曝光过强区域),本发明经过初步标记得到的标记个数为1810个,还需要对同样经过标记的非基元符号边缘以及噪声点进行剔除。考虑到基元符号边缘形状大小基本一致,即边缘像素个数基本一致,而噪声点以及曝光过强的区域则存在两个极端,噪声点多是零碎的单个或几个像素点,而强光区域则是含有较多的边缘像素点,因此采用平均阈值法对所有标记区域计算像素个数的方法,取平均数的2/3和4/3作为上限和下限,消除噪声点或者曝光区域对X-型基元符号边缘提取结果的影响,同时对符合要求的X-型基元符号边缘区域进行重新标记和分割,标号为1-n,最终标记得到的结果为1713个。对非基元边缘区域进行剔除后得到如图中12-a所示的结果,虽然某些X-型基元符号区域也被误剔除,但是比例非常之小,不影响整
体效果,图12-b所示为X-型基元符号边缘点检测放大图。
(2)摄像机图像中车门外板表面投影图像特征角点提取对标记后得到X-型基元符号边缘图像进行特征角点提取,需要对每个X-型基元符号边缘区域单独进行特征角点坐标计算,其步骤主要分为两步:
a.基于形心的特征角点粗定位
采用形心坐标计算公式,对得到的每个X-型基元符号的边缘坐标以及灰度强度值(1或0)对按照标记顺序利用静矩公式单独计算形心坐标;
b.基于Harris的特征角点精定位
在完成角点粗定位之后,还需将角点粗定位得到的结果代入到原初始图像中,在原始图像中以粗定位提取得到的坐标为中心,在其邻域内(3×3)采用Harris角点提取算法根据灰度梯度进行搜索,寻找梯度变化最大点,取灰度梯度最大点位置坐标作为精定位坐标,得到的特征角点精定位结果如附图14所示。
(3)对摄像机图像中车门外板表面投影图像中X-型基元符号进行码字识别还原
由于在设计过程中,采用的是X-型基元符号较长主惯性轴和基轴之间的夹角对码字进行归类,因此根据这种对应关系,同样需要采用计算较长主惯性轴和基轴之间的夹角对码字进行还原。
3)对摄像机图像中车门外板表面投影图像特征角点和编码投影模板特征角点进行立体匹配
参阅图16,对目标图像完成解码工作之后,可以得到一个码字阵列,每个码字代表的不仅是一个X-型基元符号,而且也代表这个X-型基元符号的特征角点,同时也代表特征角点的图像坐标。根据基于邻域的空间编码策略,每个X-型基元符号的码值都由其上下左右8个邻域组成,因此为了方便立体匹配的进行,需要按照图中所示组合方式计算每个X-型基元符号的码值,这样得到的码值具有唯一性。
在得到每个对应X-型基元符号的码值之后,再采用循环搜索算法对原始伪随机M阵列进行搜索,根据检测得到的码值对原始编码投影模板的码值进行循环对比,取相似度最高的码值作立体匹配的结果,确定检测图像中每个X-型基元符号在原始编码投影模板中对应的位置。
四、摄像机图像中车门外板表面投影图像特征角点对应的空间点云坐标计算及误差评定阶段
1)计算车门外板表面投影图像特征点的三维空间坐标
参阅图17,在实现摄像机图像特征角点和投影图像特征角点的一一匹配之后,利用结构光检测系统的标定结果,采用三角测量法计算出车门外板表面投影图像特征点的三维空间坐标。
左右图像部分匹配点的码值及坐标如下表所示:
2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准
参阅图17与图18,本发明中计算得到的点云如图17所示,三坐标测量机检测得到的某车门外板表面点云模型如图18所示。由于计算得到的点云和由三坐标测量机得到的点云模型坐标不统一,放入同一坐标系下后,两者不重合,如图19所示,因此需要进行配准,才能进行精度评估。本发明采用的是基于ICP(IterativeClosestAlgorithm)的配准方法,其主要步骤分为粗配准和精配准两步,粗配准方法以高斯曲率和平均曲率作为配准特征,计算检测点云中每个点的高斯曲率和平均曲率,在点云模型中搜索与之最接近的点,设定误差条件,使检测点云与点云模型达到比较接近的状态,初始配准结果如图20-a。对初始匹配后的检测点云和点云模型采用ICP算法进行精确配准,使得检测点云和点云模型之间的形状偏差达到最小,采用的最小距离目标函数为:
上式中,{pj(xj,yj,zj)|=1,2...k}=Pp为进行初始配准后得到的检测点
{nj(xj,yj,zj)j=1,2...k}Nc为点云模型,得到的点云配准最终结果如图20-b。使检测点云与点云模型达到最佳配准之后,为了简化图像处理迭代过程,通过最近点搜索算法对配准后检测点云在点云模型中的最近点进行搜索,计算两者之间的距离,以此表示偏差,如附图21所示为偏差值域分布图以及偏差值域频率图。
为了更加清晰的表示出检测点云中不同区域的误差大小,本发明中利用颜色色斑图对误差进行表示,首先将颜色索引级别设定为64个级别,建立点云偏差数据和颜色索引之间的关系式如下:
公式16中:Δ表示得到的偏差值大小,Δmax表示最大偏差值,Δmin=表示最小偏差值,L表示颜色索引分级,RGB_level能计算得到检测点云中所有点的颜色索值大小。
本发明经过对检测点云进行偏差计算,点云平均偏差大小为1.6873mm。因为本发明采用编码结构光技术对华晨汽车前车门外板进行检测得到的表面形状尺寸,如果进一步提高实验硬件水平,能够将表面偏差控制在0.75mm以内,本方法具有非常重要的工程应用价值。
Claims (8)
1.一种基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的基于单投射编码结构光的车门外板形状尺寸检测方法的步骤如下:
1)结构光检测系统标定阶段:
为了保证检测的顺利进行,必须对结构光检测系统中的摄像机(2)和投影仪(4)进行标定,建立起空间位置和图像坐标之间的对应的非线性关系,利用这种非线性关系计算检测图像特征点对应的空间坐标;
2)编码投影模板设计阶段:
检测过程中只需投射一幅编码图案到车门外板表面,该编码图案是一个大小为40行45列的由4个不同方向的X-型基元符号构成的图形阵列,图形阵列中图形的排列顺序由一个伪随机M阵列决定,该图形阵列具有以下特性:每3×3子阵列内的图形在整个阵列模板中只出现一次,而且任意两个子阵列中对应位置的图形至少有3个不一样;除边缘外的每个X-型基元符号都经过了编码,其编码值大小都由其3×3邻域内的元素共同决定,该图形阵列根据X-型基元符号较长主惯性轴与基轴夹角不同分别赋予了不同的码字,因此图形阵列又对应着一个40×45的数字阵列,该阵列称为伪随机M阵列;
3)检测图像解码识别阶段:
利用投影仪(4)向轿车车门外板表面投射编码投影模板,再利用摄像机(2)对车门外板表面图像进行拍摄,并将拍摄的图像传送到计算机中进行图像处理以及识别;
4)空间点云坐标计算以及误差评定阶段:
(1)计算车门外板表面投影图像特征点的三维空间坐标;
(2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准。
2.按照权利要求1所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的结构光检测系统标定阶段的步骤如下:
1)对摄像机进行标定:
利用张正友标定的方法进行标定,采用投影仪(4)投射设计的12×16黑白棋盘格标靶到标定平面的右侧,然后再利用摄像机(2)拍摄整个标定平面,拍摄得到的12幅图像中左下角的摄像机标靶图像进行特征角点提取,每个摄像机标靶图像提取100个角点,12幅图像总共得到1200个特征角点图像坐标,根据张正友标定方法,世界坐标系设定在棋盘格图像最左上角处的一个角点上,Z方向坐标值取为零,由于每个棋盘格尺寸大小精确设计为30mm,因此棋盘格特征角点在X和Y方向的世界坐标可精确得知,因此在得到平面图像特征角点坐标以及对应点的空间坐标以后,即可利用工具箱完成标定,计算得到摄像机(2)的内外部参数;
2)对投影仪进行标定:
对摄像机图像中的投影标靶进行特征角点的提取,然后再根据已经得到的摄像机(2)的内外参数结果,根据光平面相交法计算位于标定平面上投影图像的特征角点在世界坐标系下的空间坐标,至此,投影标靶的图像坐标和空间坐标都已经计算得出,因此,采用与摄像机标定相同的方法计算投影仪标定参数,得到投影仪(4)的内外部参数以及投影仪(4)和摄像机(2)之间的旋转平移矩阵。
3.按照权利要求1所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的编码投影模板设计阶段的步骤如下:
1)对应图形阵列的伪随机M数组生成:
伪随机M数组的特征在于,特定3×3窗口的子数组在全部数组中具有唯一性,任意两个窗口之间的汉明距离越大,表示两者之间的区别越大,伪随机M数组汉明距离计算方式如下式:
其中:V(ij)表示3×3邻域的9元素向量,H表示两不同3×3邻域之间对应位置向量出现不同码字的次数,即为汉明距离,汉明距离越大,表示窗口相异程度越大,编码投影模板设计阶段中构造的伪随机M阵列,将最小汉明距离大小设定为3,即表示任意两个3×3窗口的子阵列对应的元素至少有3个是不一样的,这样的设计有利于增强子阵列的稳定性以及对检测对象表面空间变化程度的适应性;
编码投影模板设计阶段中需要生成数字基元为{0,1,2,3},最小汉明距离等于3,大小为40×45的伪随机M阵列;采用循环填充法完成符合编码投影模板设计要求的伪随机阵列构建,首先在阵列左上角生成3×3的子阵列,然后沿右侧依次代入3×1的子阵列,比较相邻3×3窗口间的汉明距离大小是否符合条件,不符合重新代入,符合条件则依次向右进行直到边界为止;然后沿初始3×3数组的下方依次代入1×3子阵列,方法同上,直到边界为止;其次再依次在4×4的空白位置代入一个新的码值,组成一个新的3×3子阵列,和前面生成的所有子阵列比较汉明距离大小,符合条件继续,不符合重新代入,如代入所有可能码字都不满足,则重新开始本次构建过程;
2)基于几何特征的X-型基元符号设计:
构造编码投影模板的几何基元图形常采用方形或者圆形,但是由于出现阴影或者遮挡情况下,以几何中心作为特征角点的圆形或者方形图案比较容易发生几何中心的偏移或者产生歧义角点,导致角点坐标提取不准,而根据棋盘格的角点特征,设计一类X-型的几何基元在遮挡或者缺失的情况下具有比较稳定的角点特征,该X-型基元符号以棋盘格图像为特征设计,关于特征角点中心对称,由成中心对称的三角形或正方形组成,根据较长主惯性轴与基轴之间的夹角角度大小{0°,45°,90°,135°}的不同分别对应4个码字{0,1,2,3};
根据上述的对应的码字和图形的对应关系,按照得到的伪随机M阵列模版,将X-型基元依次代入到图形阵列模板当中,生成大小为768×1024的编码投影模板,单个X-型基元符号大小为10×10pixel,X-型基元符号间的间隔设定为9pixel,该编码投影模板以黑色为背景,白色作为X-型基元图形的底色,生成单色编码投影模板,有利于降低车门外板表面反光程度。
4.按照权利要求1所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的检测图像解码识别阶段的步骤如下:
1)对摄像机图像中车门外板表面的初始检测的图像进行图像预处理;
2)对摄像机图像中车门外板表面的投影图像进行基元分割及模式识别;
3)对摄像机图像中车门外板表面投影图像特征角点和编码投影模板特征角点进行立体匹配。
5.按照权利要求4所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的对摄像机图像中车门外板表面的初始检测的图像进行图像预处理包括如下步骤:
1)对摄像机图像中的目标区域图像采取掩膜操作,获得投射有编码投影模板的车门外板表面的局部区域图像,剔除无用背景区域;
2)对获得的目标区域图像进行高斯滤波,剔除噪声;
3)计算目标区域图像背景的平均灰度值,并与原始图像灰度值相减,对背景进行剔除,使背景灰度均匀化,避免背景图像中灰度梯度变化,影响边缘提取的结果,导致提取出过多的非基元符号边缘,给分割标记带来干扰;
4)为了使目标区域图像中的X-型基元符号边缘更加突出,采用拉普拉斯5邻域边缘增强法强化目标区域图像中X-型基元符号边缘,利于边缘提取。
6.按照权利要求4所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的对摄像机图像中车门外板表面的投影图像进行基元分割及模式识别包括如下步骤:
1)X-型基元符号边缘提取及分割标记:
采用canny算子对局部目标区域图像进行边缘提取,能够获得全部X-型基元符号的边缘以及大量非基元符号边缘,边缘提取后图像为二值图像,边缘部分强度值为1,非边缘强度值为0;在进行角点计算以及较长主惯性轴角度计算时,要利用到所有的基元符号的边缘的坐标位置,如果存在较多的非基元符号的边缘,会导致出现多个非基元符号特征角点以及角点提取不准,因此需要进行剔除;并且由于在计算X-型基元符号边缘图像的特征角点坐标以及对X-型基元符号的码字进行还原需要单独对每个X-型基元符号边缘进行计算,使得不同的X-型基元符号之间保持相对独立,在计算过程中互不影响,因此还需要对每个X-型基元符号采用分割标记算法对不同的X-型基元符号进行分类标号,按照标号的不同依次进行计算,不同标号的X-型基元符号不能同时进行运算;
2)摄像机图像中车门外板表面投影图像特征角点提取:
a.基于形心的特征角点粗定位:
采用形心坐标计算公式,对得到的每个X-型基元符号的边缘坐标以及灰度强度值对按照标记顺序利用静矩公式单独计算形心坐标;
首先静矩公式为:
公式中:x表示x轴方向坐标值,y表示y轴方向坐标值,p、q取值根据计算的不同坐标轴的静矩来定,当计算x轴的静矩时p为0,q为1,当计算y轴静矩时p为1,q为0;将静矩公式引入到图像处理当中可写成:
其中:k与l的乘积表示目标图像像素大小,f(i+1,j+1)表示图像坐标(i,j)处像素点的灰度强度,由于图像坐标系原点置于图像左上方的像素点上,图像坐标(0,0)正好对应像素坐标(1,1),因此每个像素点的坐标大小相对于其像素位置需要减1,在此处图像中边缘像素点为全部1,其余像素点都为0;
则形心坐标为:
xc表示X-型基元符号在x方向的形心坐标;
yc表示X-型基元符号在y方向的形心坐标;
计算X-型基元符号形心时,根据标号1-n从小到大依次进行,当对标号为a的基元符号边缘计算形心坐标时,其中:1≤a≤n,只有标号为a的边缘坐标像素灰度值大小为1,其余都全部设定为零,因此避免其他边缘的对形心坐标计算的影响,同理依次进行n次计算,计算得到所有X-型基元符号边缘图像的形心坐标;
b.基于Harris的特征角点精定位
由于采用基于形心的角点粗定位算法是基于X-型基元符号的边缘形状得到的角点坐标,当X-型基元符号发生变形时,得到的角点坐标相对于其真实角点坐标会发生偏移,因此在完成角点粗定位之后,还需将角点粗定位得到的结果代入到原初始图像中,在原始图像中以粗定位提取得到的坐标为中心,在其3×3的邻域内采用Harris角点提取算法根据灰度梯度进行搜索,寻找梯度变化最大点,取灰度梯度最大点位置坐标作为精定位坐标,得到的特征角点精定位结果;
3)对摄像机图像中车门外板表面投影图像中X-型基元符号进行码字识别还原:
采用计算较长主惯性轴和基轴之间的夹角对码字进行还原,采用惯性力矩积分公式计算较长主惯性轴和基轴之间的夹角,惯性力矩积分公式如下:
较长主惯性轴与水平坐标轴之间夹角公式如下:
X-基元符号上的小箭头方向指向的是较长主惯性轴的方向,而水平相邻的两个X-型基元形心之间的连线为基线,由于在投影过程中,由于无法保证水平投影使得图形阵列与水平方向保持一致,因此基线与水平方向之间存在着一定大小的角度,其夹角公式为:
其中:(xn,yn)表示的是第n个X-型基元符号的特征角点坐标,则最后可得较长主惯性轴和基线之间夹角为:
Δ=α-β(14)
将差值范围设定为±10°,比较Δ与{0,45,90,135}之间的差值,如果两者之间的差值在设定误差范围内,则按照对应角度对应的{0,1,2,3}进行码字还原,依次进行比较,得到检测图像的码字矩阵。
7.按照权利要求4所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的对摄像机图像中车门外板表面投影图像特征角点和编码投影模板特征角点进行立体匹配是指:
对目标图像完成解码工作之后,得到一个码字阵列,每个码字代表的不仅是一个X-型基元符号,而且也代表这个X-型基元符号的特征角点,同时也代表特征角点的图像坐标,为了确定目标图像中X-型基元符号在投影模板中的具体位置,即确定拍摄图像中X-型基元符号在投影模板中的对应位置,或者说摄像机图像中车门外板表面投影图像中特征角点所对应的在投影模板中的对应角点位置,实现摄像机图像和投影模板的一一匹配,根据基于邻域的空间编码策略,每个X-型基元符号的码值都由其上下左右8个邻域组成,因此为了方便立体匹配的进行,需要按照图中所示组合方式计算每个X-型基元符号的码值,这样得到的码值具有唯一性;
在得到每个对应X-型基元符号的码值之后,再采用循环搜索算法对原始伪随机M阵列进行搜索,根据检测得到的码值对原始编码投影模板的码值进行循环对比,取相似度最高的码值作立体匹配的结果,确定检测图像中每个X-型基元符号在原始编码投影模板中对应的位置。
8.按照权利要求1所述的基于单投射编码结构光的车门外板形状尺寸检测方法,其特征在于,所述的空间点云坐标计算及误差评定阶段的步骤如下:
1)计算车门外板表面投影图像特征点的三维空间坐标
在实现摄像机图像特征角点和投影图像特征角点的一一匹配之后,利用结构光检测系统的标定结果,采用三角测量法计算出车门外板表面投影图像特征点的三维空间坐标,其中深度方向的空间坐标ZR的计算公式为:
式中:表示的是点积操作符,其中 和表示的是完成立体匹配的左右图像坐标向量,R和T分别表示的是投影仪坐标系到摄像机坐标系的旋转矩阵和平移向量;采用三角测量法空间坐标计算公式,利用结构光系统标定结果,对车门表面特征点空间坐标进行计算,得到检测点云示意图;
2)对计算得到的检测点云与三坐标测量机测得的点云模型进行配准:
采用基于ICP的配准方法,其主要步骤分为粗配准和精配准两步,粗配准方法以高斯曲率和平均曲率作为配准特征,计算检测点云中每个点的高斯曲率和平均曲率,在点云模型中搜索与之最接近的点,设定误差条件,使检测点云与点云模型达到比较接近的状态,得初始配准结果;对初始匹配后的检测点云和点云模型采用ICP算法进行精确配准,使得检测点云和点云模型之间的形状偏差达到最小,采用的最小距离目标函数为:
上式中,{pj(xj,yj,zj)|j=1,2...k}Pp为进行初始配准后得到的检测点云,{njxj,yj,zj)|j=1,2...k}=Nc为点云模型,得到的点云配准最终结果;
使检测点云与点云模型达到最佳配准之后,为了简化图像处理迭代过程,通过最近点搜索算法对配准后检测点云在点云模型中的最近点进行搜索,计算两者之间的距离,以此表示偏差;
为了更加清晰的表示出检测点云中不同区域的误差大小,利用颜色色斑图对误差进行表示,首先将颜色索引级别设定为64个级别,建立点云偏差数据和颜色索引之间的关系式如下:
公式中:Δ表示得到的偏差值大小,Δmax表示最大偏差值,Δmin表示最小偏差值,L表示颜色索引分级,RGB_level能计算得到检测点云中所有点的颜色索值大小。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201210590601.3A CN103047943B (zh) | 2012-12-31 | 2012-12-31 | 基于单投射编码结构光的车门外板形状尺寸检测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201210590601.3A CN103047943B (zh) | 2012-12-31 | 2012-12-31 | 基于单投射编码结构光的车门外板形状尺寸检测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN103047943A CN103047943A (zh) | 2013-04-17 |
| CN103047943B true CN103047943B (zh) | 2016-04-06 |
Family
ID=48060677
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201210590601.3A Expired - Fee Related CN103047943B (zh) | 2012-12-31 | 2012-12-31 | 基于单投射编码结构光的车门外板形状尺寸检测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103047943B (zh) |
Families Citing this family (46)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8531650B2 (en) | 2008-07-08 | 2013-09-10 | Chiaro Technologies LLC | Multiple channel locating |
| CN104751482B (zh) * | 2013-12-30 | 2019-03-29 | 联想(北京)有限公司 | 结构光光斑图案生成方法和结构光光斑图案生成设备 |
| US9562760B2 (en) | 2014-03-10 | 2017-02-07 | Cognex Corporation | Spatially self-similar patterned illumination for depth imaging |
| US10775165B2 (en) * | 2014-10-10 | 2020-09-15 | Hand Held Products, Inc. | Methods for improving the accuracy of dimensioning-system measurements |
| CN104463850A (zh) * | 2014-11-18 | 2015-03-25 | 北京农业智能装备技术研究中心 | 基于近红外编码点阵结构光的苹果果梗/花萼检测方法 |
| CN104457607A (zh) * | 2014-12-10 | 2015-03-25 | 东北大学 | 一种面向深度测量的沙漏码结构光的编解码方法 |
| CN104596444B (zh) * | 2015-02-15 | 2017-03-22 | 四川川大智胜软件股份有限公司 | 一种基于编码图案投影的三维照相系统及方法 |
| CN105043253B (zh) * | 2015-06-18 | 2018-06-05 | 中国计量大学 | 基于面结构光技术货车侧防护栏安装尺寸测量系统及方法 |
| JP6545065B2 (ja) * | 2015-09-30 | 2019-07-17 | 株式会社日立ビルシステム | 3次元点群データのモデリング装置、モデリングプログラム及びエレベータガイドレールのモデリング方法 |
| CN105469403A (zh) * | 2015-11-25 | 2016-04-06 | 天津光电高斯通信工程技术股份有限公司 | 货运列车门窗开启的检测方法 |
| CN105423954B (zh) * | 2015-12-29 | 2018-06-26 | 北京航天益森风洞工程技术有限公司 | 一种基于视觉测量的柔壁喷管的测量方法 |
| CN106225719B (zh) * | 2016-08-04 | 2018-12-04 | 西安交通大学 | 一种符号阵列结构光编码图案的生成方法及装置 |
| CN106251376B (zh) * | 2016-08-12 | 2019-08-06 | 南京航空航天大学 | 一种面向彩色结构光编码与边缘提取方法 |
| EP3364374A1 (en) * | 2017-02-20 | 2018-08-22 | My Virtual Reality Software AS | Method for visualizing three-dimensional data |
| CN107492120B (zh) * | 2017-07-18 | 2020-04-28 | 北京航空航天大学 | 点云配准方法 |
| CN109635619B (zh) * | 2017-08-19 | 2021-08-31 | 康耐视公司 | 用于三维重建的结构化光图案的编码距离拓扑 |
| CN109425292B (zh) * | 2017-08-29 | 2020-06-16 | 西安知微传感技术有限公司 | 基于一维线结构光的三维测量系统标定装置及方法 |
| CN109816703B (zh) * | 2017-11-21 | 2021-10-01 | 西安交通大学 | 一种基于相机标定和icp算法的点云配准方法 |
| EP3496388A1 (en) * | 2017-12-05 | 2019-06-12 | Thomson Licensing | A method and apparatus for encoding a point cloud representing three-dimensional objects |
| CN108280852B (zh) * | 2018-01-16 | 2021-08-03 | 常景测量科技(武汉)有限公司 | 一种基于激光点云数据的门窗点云形状检测方法及系统 |
| CN108195305B (zh) * | 2018-02-09 | 2020-03-31 | 京东方科技集团股份有限公司 | 一种双目检测系统及其深度检测方法 |
| CN108458671B (zh) * | 2018-03-08 | 2020-01-03 | 西安知微传感技术有限公司 | 一种线结构光三维测量系统的标定方法 |
| CN109099867A (zh) * | 2018-06-26 | 2018-12-28 | 无锡新吉凯氏测量技术有限公司 | 一种基于几何形态信息的宝石认证和识别系统及方法 |
| CN109146938B (zh) * | 2018-08-30 | 2020-09-15 | 百度在线网络技术(北京)有限公司 | 动态障碍物的位置校准方法、装置、设备及存储介质 |
| CN109186468A (zh) * | 2018-10-16 | 2019-01-11 | 天津安通林汽车饰件有限公司 | 一种基于机器视觉的智能测量车门机械参数的装置 |
| CN109458963A (zh) * | 2018-12-07 | 2019-03-12 | 中国航空工业集团公司济南特种结构研究所 | 一种确定雷达罩分流条特征点空间位置的方法 |
| CN110428458A (zh) * | 2018-12-26 | 2019-11-08 | 西安电子科技大学 | 基于单帧密集形状编码的深度信息测量方法 |
| CN110006406B (zh) * | 2019-04-26 | 2024-07-09 | 昆明理工大学 | 一种摄影测量后处理辅助尺度恢复及定向的标定装置 |
| CN110926370B (zh) * | 2019-11-12 | 2021-10-29 | 季华实验室 | 测量方法和系统 |
| CN110991465B (zh) * | 2019-11-15 | 2023-05-23 | 泰康保险集团股份有限公司 | 一种物体识别方法、装置、计算设备及存储介质 |
| CN110933391B (zh) * | 2019-12-20 | 2021-11-09 | 成都极米科技股份有限公司 | 投影系统的标定参数补偿方法、装置及可读存储介质 |
| CN111340957B (zh) * | 2020-02-10 | 2023-07-14 | 季华实验室 | 测量方法和系统 |
| CN111504229A (zh) * | 2020-04-10 | 2020-08-07 | 武汉理工大学 | 一种在曲板上动态投射视觉测量匹配用图案的方法 |
| CN111739106B (zh) * | 2020-08-12 | 2020-12-25 | 成都极米科技股份有限公司 | 角点编码方法、标定方法、装置、电子设备和存储介质 |
| CN112683166B (zh) * | 2020-12-11 | 2022-05-31 | 杭州优视泰信息技术有限公司 | 一种模切产品尺寸检测方法 |
| CN113188450B (zh) * | 2021-04-23 | 2023-03-14 | 封泽希 | 基于结构光的场景深度检测方法及系统 |
| CN113393378B (zh) * | 2021-05-26 | 2023-05-02 | 浙江大华技术股份有限公司 | 光伏组件的图像拼接方法、装置、电子装置和存储介质 |
| CN113379829A (zh) * | 2021-06-16 | 2021-09-10 | 劢微机器人科技(深圳)有限公司 | 基于相机的尺寸测量方法、装置、设备及存储介质 |
| CN113245243B (zh) * | 2021-06-23 | 2021-09-14 | 苏州鼎纳自动化技术有限公司 | 一种色差检测设备及其使用方法 |
| CN113538483B (zh) * | 2021-06-28 | 2022-06-14 | 同济大学 | 高精度近景摄影测量标志的编解码方法和测量方法 |
| CN113362468B (zh) * | 2021-07-05 | 2022-06-03 | 上海大学 | 一种火车轮毂的尺寸测量方法 |
| CN113869407B (zh) * | 2021-09-27 | 2025-07-11 | 中科视语(北京)科技有限公司 | 一种基于单目视觉的车长测量方法和装置 |
| CN114299158B (zh) * | 2021-12-28 | 2025-03-28 | 北京市商汤科技开发有限公司 | 多相机系统校准方法、装置、系统、电子设备及存储介质 |
| CN114324363B (zh) * | 2021-12-31 | 2024-04-26 | 无锡艾方芯动自动化设备有限公司 | 产品状态检测方法及系统 |
| CN115235380B (zh) * | 2022-08-30 | 2023-08-08 | 天津大学 | 一种内壁表面三维测量系统、方法、装置、介质以及设备 |
| CN115502601B (zh) * | 2022-10-27 | 2023-08-22 | 湘潭大学 | 基于沉积尺寸的中厚板多层多道焊接轨迹优化方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101261115A (zh) * | 2008-04-24 | 2008-09-10 | 吉林大学 | 空间圆几何参数的双目立体视觉测量方法 |
| JP4218283B2 (ja) * | 2002-08-22 | 2009-02-04 | 株式会社Ihi | ターゲット投影式3次元形状計測方法および装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3465531B2 (ja) * | 1997-05-12 | 2003-11-10 | オムロン株式会社 | 物体認識方法およびその装置 |
-
2012
- 2012-12-31 CN CN201210590601.3A patent/CN103047943B/zh not_active Expired - Fee Related
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4218283B2 (ja) * | 2002-08-22 | 2009-02-04 | 株式会社Ihi | ターゲット投影式3次元形状計測方法および装置 |
| CN101261115A (zh) * | 2008-04-24 | 2008-09-10 | 吉林大学 | 空间圆几何参数的双目立体视觉测量方法 |
Non-Patent Citations (1)
| Title |
|---|
| 基于自适应神经网络的双摄像机标定;崔岸等;《计算机工程与应用》;20090721;第45卷(第21期);第55-57、60页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN103047943A (zh) | 2013-04-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103047943B (zh) | 基于单投射编码结构光的车门外板形状尺寸检测方法 | |
| CN112116576B (zh) | 基于偏振结构光成像和改进的缺陷检测方法 | |
| CN111243032B (zh) | 一种棋盘格角点全自动检测方法 | |
| Romero-Ramirez et al. | Speeded up detection of squared fiducial markers | |
| CN100573040C (zh) | 物体表面三维轮廓结构光测量系统的标定方法 | |
| Romero-Ramire et al. | Fractal markers: A new approach for long-range marker pose estimation under occlusion | |
| CN104318548B (zh) | 一种基于空间稀疏度和sift特征提取的快速图像配准实现方法 | |
| CN113674360B (zh) | 一种基于协变的线结构光光平面标定方法 | |
| CN108122256B (zh) | 一种逼近状态下旋转目标位姿测量的方法 | |
| Song et al. | DOE-based structured-light method for accurate 3D sensing | |
| CN103048331B (zh) | 基于柔性模板配准的印刷缺陷检测方法 | |
| CN107578464A (zh) | 一种基于线激光扫描的传送带工件三维轮廓测量方法 | |
| CN103729632A (zh) | 一种基于连通区域滤波的圆形Mark点的定位方法 | |
| CN103020945A (zh) | 一种多源传感器的遥感图像配准方法 | |
| CN104568986A (zh) | 基于surf算法的遥控器面板印刷缺陷自动检测方法 | |
| CN103345755A (zh) | 一种基于Harris算子的棋盘格角点亚像素提取方法 | |
| CN101398886A (zh) | 一种基于双目被动立体视觉的快速三维人脸识别方法 | |
| US20200258300A1 (en) | Method and apparatus for generating a 3d reconstruction of an object | |
| CN109540925B (zh) | 基于差影法与局部方差测量算子的复杂瓷砖表面缺陷检测方法 | |
| CN103400373A (zh) | 相机检校控制场人工标志像点坐标自动识别定位方法 | |
| CN112233116A (zh) | 基于邻域决策与灰度共生矩阵描述的凹凸痕视觉检测方法 | |
| CN118570396B (zh) | 基于偏振线结构的高反射物体表面三维重建方法及其系统 | |
| CN112241964B (zh) | 一种用于线结构光非接触测量的光条中心提取方法 | |
| CN113409242A (zh) | 一种轨交弓网点云智能监测方法 | |
| CN116125489A (zh) | 一种室内物体三维检测方法、计算机设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20160406 Termination date: 20211231 |
|
| CF01 | Termination of patent right due to non-payment of annual fee |