[go: up one dir, main page]

CN114820787A - 一种面向大视场平面视觉测量的图像校正方法及系统 - Google Patents

一种面向大视场平面视觉测量的图像校正方法及系统 Download PDF

Info

Publication number
CN114820787A
CN114820787A CN202210428357.4A CN202210428357A CN114820787A CN 114820787 A CN114820787 A CN 114820787A CN 202210428357 A CN202210428357 A CN 202210428357A CN 114820787 A CN114820787 A CN 114820787A
Authority
CN
China
Prior art keywords
image
partition
plane
coordinates
checkerboard
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210428357.4A
Other languages
English (en)
Other versions
CN114820787B (zh
Inventor
张来刚
张云龙
徐立鹏
孙群
郭宏亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Liaocheng University
Original Assignee
Liaocheng University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Liaocheng University filed Critical Liaocheng University
Priority to CN202210428357.4A priority Critical patent/CN114820787B/zh
Publication of CN114820787A publication Critical patent/CN114820787A/zh
Application granted granted Critical
Publication of CN114820787B publication Critical patent/CN114820787B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种面向大视场平面视觉测量的图像校正方法及系统,所述方法包括:获取待测平面的棋盘格图像,提取标志点实际图像坐标,根据标志点的分布情况对图像进行合理分区,同时构建每个标志点的理想图像坐标,获取每个分区的训练数据库;利用训练数据库训练每个分区的深度学习网络模型;根据训练好的模型,计算每个分区中像素点的理想图像坐标,建立每个分区的remap矩阵,利用remap矩阵生成每个分区的无畸变正视图,拼接各个分区的正视图,生成整幅图像的无畸变正视图。本发明采用了图像分区校正+拼接融合的策略,能够在无需摄像机标定的前提下完成大视场、高畸变的图像精准校正,提高图像校正精度和校正效率。

Description

一种面向大视场平面视觉测量的图像校正方法及系统
技术领域
本发明涉及图像校正技术领域,特别是涉及一种面向大视场平面视觉测量的图像校正方法及系统。
背景技术
目前,传统的图像校正方法首先需要对相机进行标定,即计算摄像机的内、外参数,然后利用摄像机的内外参数对拍摄的图像进行校正,以获得畸变较小的图像。在此过程中,大视场下的摄像机内外参数计算的准确性会直接影响图像的校正效果。同时,为了获取较准确的摄像机内外参数,大视场下的摄像机标定需要对不同位置、位姿的标定靶进行拍摄,费时费力而且往往不能得到非常好的标定效果。因此研究一种无需摄像机标定即可完成大视场、高畸变图像的精准校正的方法,是本领域亟需解决的技术问题。
发明内容
本发明的目的是提供一种面向大视场平面视觉测量的图像校正方法及系统,能够在无需摄像机标定的前提下完成大视场、高畸变的图像精准校正,提高图像校正精度和校正效率。
为实现上述目的,本发明提供了如下方案:
一种面向大视场平面视觉测量的图像校正方法,包括:
获取待测平面的棋盘格图像;所述待测平面上放置有棋盘格标定板;
对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区;
为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库;
建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型;
利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵;
获取待测平面图像并对所述待测平面图像进行分区;
利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图;
拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。
可选地,所述获取待测平面的棋盘格图像,具体包括:
将配有广角镜头的相机固定于所述待测平面视场的上方,利用LED光源对拍摄区域进行补光;
在所述待测平面上放置所述棋盘格标定板,利用计算机控制所述相机拍摄获取所述棋盘格图像。
可选地,所述对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区,具体包括:
对所述棋盘格图像进行标志点检测,提取棋盘格的角点作为所述标志点;
提取所述标志点的实际图像坐标;
根据所述标志点的实际图像坐标分布对所述棋盘格图像进行分区;每个所述分区包含的标志点数量大于或等于60个。
可选地,所述为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库,具体包括:
根据所述标志点的实际图像坐标分布和图像校正的目标,为所述标志点设置理想图像坐标;
根据所述每个分区内所有标志点的实际图像坐标和理想图像坐标构成每个分区的训练数据库。
可选地,所述利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵,具体包括:
利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标;
根据所述每个分区中所有像素点的实际图像坐标和理想图像坐标之间的映射关系,构建每个分区的remap矩阵。
一种面向大视场平面视觉测量的图像校正系统,包括:
棋盘格图像获取模块,用于获取待测平面的棋盘格图像;所述待测平面上放置有棋盘格标定板;
标志点检测和分区模块,用于对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区;
训练数据库建立模块,用于为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库;
图像校正模型建立模块,用于建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型;
remap矩阵建立模块,用于利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵;
待测平面图像获取模块,用于获取待测平面图像并对所述待测平面图像进行分区;
分区无畸变正视图生成模块,用于利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图;
待测平面无畸变正视图生成模块,用于拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。
可选地,所述棋盘格图像获取模块,具体包括:
相机设置单元,用于将配有广角镜头的相机固定于所述待测平面视场的上方,利用LED光源对拍摄区域进行补光;
棋盘格图像获取单元,用于在所述待测平面上放置所述棋盘格标定板,利用计算机控制所述相机拍摄获取所述棋盘格图像。
可选地,所述标志点检测和分区模块,具体包括:
标志点检测单元,用于对所述棋盘格图像进行标志点检测,提取棋盘格的角点作为所述标志点;
实际图像坐标提取单元,用于提取所述标志点的实际图像坐标;
分区单元,用于根据所述标志点的实际图像坐标分布对所述棋盘格图像进行分区;每个所述分区包含的标志点数量大于或等于60个。
可选地,所述训练数据库建立模块,具体包括:
理想图像坐标设置单元,用于根据所述标志点的实际图像坐标分布和图像校正的目标,为所述标志点设置理想图像坐标;
训练数据库建立单元,用于根据所述每个分区内所有标志点的实际图像坐标和理想图像坐标构成每个分区的训练数据库。
可选地,所述remap矩阵建立模块,具体包括:
理想图像坐标计算单元,用于利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标;
remap矩阵建立单元,用于根据所述每个分区中所有像素点的实际图像坐标和理想图像坐标之间的映射关系,构建每个分区的remap矩阵。
根据本发明提供的具体实施例,本发明公开了以下技术效果:
本发明提供了一种面向大视场平面视觉测量的图像校正方法及系统,所述方法包括:获取待测平面的棋盘格图像;对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区;为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库;建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型;利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵;获取待测平面图像并对所述待测平面图像进行分区;利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图;拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。本发明采用了图像分区校正+拼接融合的策略对大视场、高畸变的图像进行校正,分区策略降低了深度学习网络模型的复杂度,提高了模型训练效率;利用训练好的图像校正模型,生成图像校正的映射矩阵remap矩阵,并采用多线程技术和双线性插值法,完成图像的校正,提高了图像校正效率;基于深度学习模型校正图像还避免了相机内、外参数和镜头畸变系数的计算。因此,采用本发明图像校正方法能够在无需摄像机标定的前提下完成大视场、高畸变的图像精准校正,提高图像校正精度和校正效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的一种面向大视场平面视觉测量的图像校正方法流程图;
图2为本发明提供的棋盘格图像示意图;
图3为本发明提供的棋盘格标志点检测示意图;
图4为本发明提供的棋盘格图像分区示意图;
图5为本发明提供的深度学习网络模型示意图;
图6为本发明提供的棋盘格图像第一分区标志点实际坐标、理想坐标、校正后坐标分布示意图;
图7为本发明提供的校正后棋盘格图像示意图;
图8为本发明提供的校正结果定量评价参数说明图;
图9为本发明提供的行标志点水平度计算结果示意图;
图10为本发明提供的列标志点垂直度计算结果示意图;
图11为本发明提供的水平相邻标志点分布均匀度计算结果示意图;
图12为本发明提供的垂直相邻标志点分布均匀度计算结果示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种面向大视场平面视觉测量的图像校正方法及系统,能够在无需摄像机标定的前提下完成大视场、高畸变的图像精准校正,提高图像校正精度和校正效率。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
在基于单目摄像机的大视场平面测量中,为了更加方便、快速、准确地完成图像校正,以为后续测量工作提供有效保障,本发明基于单目视觉,基于分区校正的策略,建立深度学习网络模型,在无需计算摄像机内外参数的情况下完成图像校正,同时针对本发明的图像校正方法,提出一种图像校正结果评价方法。
图1为本发明提供的一种面向大视场平面视觉测量的图像校正方法流程图。如图1所示,本发明一种面向大视场平面视觉测量的图像校正方法包括:
步骤101:获取待测平面的棋盘格图像。
具体地,将配有广角镜头的相机固定于待测平面视场的上方,利用LED光源对拍摄区域进行补光,以减小环境光对拍摄的影响。将特制的棋盘格标定板1作为标定靶平放于待测平面2上,利用计算机控制相机获取待测平面2的图像。在实际拍摄过程中,根据图像的平均灰度值和清晰度,实时调整相机的曝光时间、增益等拍摄参数,获取满足标志点检测的图像,即图2所示的待测平面2的棋盘格图像。
步骤102:对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区。
对获取的图像进行预处理,提取棋盘格标定板的标志点图像坐标,根据视场的大小、标志点的数量以及标志点的分布情况,对图像的标志点进行分区。
因此,所述步骤102具体包括:
步骤2.1:对所述棋盘格图像进行标志点检测,提取棋盘格的角点作为所述标志点。
图3为本发明提供的棋盘格标志点检测示意图。具体地,参见图3,基于局部平均自适应阈值化方法对棋盘格图像进行二值化,图像膨胀分离各个黑块四边形的衔接,得到缩小的黑块四边形,基于长宽比、周长和面积等约束条件检测黑块四边形,将每个四边形作为一个单元,对角相邻的两个四边形相对的两个点,取其连线的中间点作为角点3。即,黑块四边形的四个顶点为角点。
步骤2.2:提取所述标志点的实际图像坐标。
步骤2.3:根据所述标志点的实际图像坐标分布对所述棋盘格图像进行分区,每个所述分区包含的标志点数量大于或等于60个。
具体地,为了提高畸变校正的精度、降低深度学习网络模型的复杂度以及提高模型训练效率,根据视场的大小、标志点的数量以及标志点的实际图像坐标分布情况,对整幅棋盘格图像进行分区,每个分区包含的标志点数量不少于60个。图4为本发明提供的棋盘格图像分区示意图,图4中划分出了24个分区。
步骤103:为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库。
所述步骤103具体包括:
步骤3.1:根据所述标志点的实际图像坐标分布和图像校正的目标,为所述标志点设置理想图像坐标。
具体地,面向大视场平面视觉测量的图像校正的目的是获取待测平面的无畸变正视图,棋盘格标定的行标志点和列标志点是正交分布的,且相邻标志点的横向距离和纵向距离相等,因此可以根据标志点分布情况和图像校正的目标,为步骤102中检测到的每一个标志点设置理想的图像坐标。
步骤3.2:根据所述每个分区内所有标志点的实际图像坐标和理想图像坐标构成每个分区的训练数据库。
步骤104:建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型。
所述步骤104具体包括:
步骤4.1:建立深度学习网络模型。
具体地,图5为本发明提供的深度学习网络模型示意图。本发明采用如图5所示的DNN深度神经网络搭建深度学习网络模型,该模型包括输入层、2个隐藏层和输出层。输入层和输出层都包含2个神经元,分别表示一个标志点的实际图像坐标(col,row)和其对应的理想图像坐标(col’,row’),其中,row和row’表示标志点的行坐标;col和col’表示列坐标。即,深度学习网络模型的输入为标志点的实际图像坐标,其中一个神经元的输入为标志点的行坐标,另一个神经元的输入为标志点的列坐标。深度学习网络模型的输出为该标志点对应的理想图像坐标,其中一个神经元的输出为该标志点对应的理想行坐标,另一个神经元的输出为该标志点对应的理想列坐标。
利用公式(1)对图像的每一个分区内的行坐标和列坐标进行归一化处理,得到实际图像坐标为(x1,y1),理想图像坐标为(x2,y2),公式如下:
Figure BDA0003609074140000081
其中,zi为待归一化的向量;min(Z)为向量Z中元素的最小值;max(Z)为向量Z中元素的最大值;z′i为归一化处理后的向量。
在对图像的行坐标和列坐标进行归一化处理过程中,每个分区内所有标志点的行坐标为一个向量,利用公式(1)对行向量进行归一化处理;所有标志点的列坐标为另一个向量,利用公式(1)再对列向量进行归一化处理。将每一个分区内归一化处理后得到的实际图像坐标(x1,y1)和对应的理想图像坐标为(x2,y2)作为一个训练样本,构成每个分区的训练数据。
步骤4.2:利用每个分区的训练数据,为每个分区训练深度学习网络模型。
利用标志点的实际图像坐标和理想图像坐标进行训练,计算每个分区的模型参数。在模型训练过程中,训练的目的是减少预测值和样本标签值之间的差距,差距通过均方差的欧氏距离来表示,定义损失函数为公式(2)。通过模型参数初始化、学习率调整、权重参数更新等一系列阶段,分别训练每个分区的DNN深度学习网络模型。再通过测试点验证模型的精度和有效性,得到每个分区训练好的图像校正模型。损失函数公式如下:
Figure BDA0003609074140000091
其中,J(w,b)为损失函数;m为每个分区内标志点的数量;xi1为第i个标志点的实际图像坐标的行坐标;yi1为第i个标志点的实际图像坐标的列坐标;xi2为第i个标志点的理想图像坐标的行坐标;yi2为第i个标志点的理想图像坐标的列坐标。
步骤105:利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵。
具体地,利用每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,再根据每个分区中所有像素点的实际图像坐标和理想图像坐标之间的映射关系,构建每个分区的remap矩阵Hi2i作为图像校正的映射矩阵。
为了提高图像校正效率,在之后的待测图像校正时不再利用每个分区的图像校正模型,而是用remap矩阵Hi2i来计算像素点校正后的坐标(称为校正坐标),采用多线程技术和双线性插值法,对图像进行畸变校正,得到待测平面的标准正视图,为高精度、大视场平面测量提供保障,并且降低计算量、提高计算速度,进而提高图像校正效率。
为了验证remap矩阵Hi2i的有效性,本发明利用remap矩阵Hi2i计算棋盘格图像的所有像素点的校正后的坐标进行验证。
先利用remap矩阵Hi2i计算棋盘格图像每个分区内像素点校正后的坐标,计算公式如下:
Figure BDA0003609074140000092
其中,
Figure BDA0003609074140000093
为像素点校正前的坐标向量,即像素点原始坐标(或实际坐标)构成的向量;
Figure BDA0003609074140000094
为相应像素点校正后的坐标向量,即像素点校正坐标构成的向量。
图6为本发明提供的棋盘格图像第一分区标志点实际坐标、理想坐标、校正后坐标分布示意图,其中4表示标志点实际坐标(也称原始坐标),5表示理想坐标(即理想图像坐标),6表示校正后坐标(也称校正坐标)。如图6所示,利用remap矩阵Hi2i计算棋盘格图像标志点校正后的坐标与理想坐标是高度重合的。
再采用多线程技术和双线性插值法,对棋盘格图像进行畸变校正,即可得到棋盘格图像的标准正视图,如图7所示。
本发明还提出了基于列标志点垂直度、行标定点水平度、相邻标志点分布均匀度的图像校正评价方法,验证本发明提出的面向大视场平面视觉测量的图像校正方法的准确性和有效性。该评价方法是一种面向平面测量图像校正的有效定量评价方法。
具体地,提取如图7所示的校正后棋盘格图像的标志点,计算列标志点垂直度、行标定点水平度、相邻标志点分布均匀度,各参数说明如图8所示。
其中,列标志点垂直度VM计算公式如下:
Figure BDA0003609074140000101
其中,n为每一列标志点的数量;m为每一行标志点的数量;xij为第j列中第i个标志点的x坐标;AVG(Xj)表示第j列所有标志点的x坐标均值。
行标志点水平度计算HM公式如下:
Figure BDA0003609074140000102
其中,yij为第j行中第i个角点的y坐标;AVG(Yj)表示第j行所有角点的y坐标均值。
水平相邻标志点分布均匀度UHM计算公式如下:
Figure BDA0003609074140000103
其中,xjk为第j行中第k个标志点的x坐标;xjk-1为第j行中第k-1个标志点的x坐标。
垂直相邻标志点分布均匀度UVM计算公式如下:
Figure BDA0003609074140000111
其中,yjk为第j列中第k个角点的y坐标;yjk-1为第j列中第k-1个角点的y坐标。
垂直度、水平度和均匀度越好,即VM、HM、UHM、UVM向量中的元素值越小,证明图像校正的效果越好。
采用该图像校正评价方法,验证了本发明remap矩阵Hi2i的准确性。那么在之后的待测图像校正时,不必再利用每个分区的图像校正模型,用remap矩阵Hi2i即可计算像素点校正后的坐标,采用多线程技术和双线性插值法,对图像进行畸变校正,即可得到待测平面的标准正视图。
步骤106:获取待测平面图像并对所述待测平面图像进行分区。
具体地,将配有广角镜头的相机固定于待测平面视场的上方,利用LED光源对拍摄区域进行补光,以减小环境光对拍摄的影响,利用计算机控制相机获取待测平面的图像。按照在此视场下拍摄的棋盘格图像的分区规则对待测平面图像进行分区。
步骤107:利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图。
利用每个分区的remap矩阵Hi2i,基于公式(3)计算待测平面图像该分区内像素点的校正后的坐标,通过双线性插值法,对该分区图像进行畸变校正,得到该分区的无畸变正视图。
先利用remap矩阵Hi2i计算棋盘格图像每个分区内像素点校正后的坐标,计算公式如下:
Figure BDA0003609074140000112
其中,
Figure BDA0003609074140000121
为像素点校正前的坐标向量,即像素点原始坐标(或实际坐标)构成的向量;
Figure BDA0003609074140000122
为相应像素点校正后的坐标向量,即像素点校正坐标构成的向量。
基于深度学习网络模型校正图像避免了相机内、外参数和镜头畸变系数的计算,且融合了传统图像校正的标志点提取和AI图像处理的深度学习方法,不需要通过卷积提取图像特征,最大程度上保证了图像校正精度和校正效率。
为实现大视场平面测量,本发明还提供一种校正后的图像正视图坐标与平面物理坐标的转换矩阵,实现大视场平面测量。
具体地,提取待测平面图像的标准正视图的标志点坐标,构建待测平面的平面物理坐标,计算remap矩阵Hi2w,基于Hi2w进行标志点图像坐标和物理坐标的转换,物理坐标向量计算公式如下:
Figure BDA0003609074140000123
其中,
Figure BDA0003609074140000124
为图像坐标向量;
Figure BDA0003609074140000125
为对应的物理坐标向量。
步骤108:拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。
本发明将配有广角镜头的相机固定于待测平面视场的上方,在待测平面上放置标定靶,利用计算机控制相机获取待测平面的图像;对图像进行预处理,提取标定靶的标志点图像坐标,同时根据标志的实际分布情况为每个标志点建立理想图像坐标;根据视场的大小、标志点的数量以及标志点的分布情况,对图像的标志点进行分区;建立深度学习网络模型,利用标志点的实际图像坐标和理想图像坐标进行训练,计算每个区域的模型参数;利用训练好的模型,采用多线程技术和双线性插值法,完成图像的校正。同时基于列标志点垂直度、行标定点水平度、相邻标志点分布均匀度,对图像校正结果进行评价。为了提高图像校正效率,利用训练好的网络模型,生成图像校正的映射矩阵。由此可见,本发明在不依赖相机的内外参数的前提下,完成了适用于平面视觉测量的大视场、高畸变的图像精准校正。
下面提供本发明面向大视场平面视觉测量的图像校正方法的一个具体实施例。
本发明图像校正方法的一个具体实施过程包括:
1、获取待测平面图像:在待测平面上放置特制的棋盘格标定板,待测平面的物理尺寸为3000mm×2000mm,棋盘格的物理尺寸为50mm×50mm,每一行的标志点数量为63个,每一列的标志点数量为39个。在待测平面上方布置配有广角镜头的摄像机,相机分辨率为3664×2748,开启相机的实时采集模式,根据图像的平均灰度值和清晰度,实时调整摄像机的曝光时间、增益等拍摄参数,抓取高质量的棋盘格图像,如图2所示。
2、标志点检测和分区:基于局部平均自适应阈值化方法对棋盘格图像进行二值化,图像膨胀分离各个黑块四边形的衔接,得到缩小黑块四边形,基于长宽比、周长和面积等约束检测四边形,将每个四边形作为一个单元,对角相邻的两个四边形相对的两个点,取其连线的中间点作为角点,如图3所示,将其角点作为标志点。根据标志点图像坐标分布情况,对整幅图像分成6×4=24个区域,如图4所示,每个分区包含的标志点数量不少于90个。
3、生成训练数据库:在上一步检测得到了63×39=2457个标志点,棋盘格的行角点和列角点是正交分布的,且相邻角点的横向和纵向距离相等,根据角点分布和图像校正的目标,为每一个标志点设置理想的图像坐标。将左上角的标志点的理想图像坐标设定为(127,329),以该点水平向右为X轴正方向,垂直向下为Y轴正方向,以50个像素为步长,为每个标志点设置理想的图像坐标。进而,利用每个分区的标志点的实际图像坐标和理想图像坐标构建训练数据库,一共生成24个分区的训练数据库。
4、构建、训练、深度学习网络模型:为每个分区搭建DNN(深度神经网络)模型,共搭建24个DNN模型,利用每个分区的训练数据库训练对应的DNN模型,得到24个训练好的图像校正模型。
5、校正图像:根据每个分区的训练好的图像校正模型,计算每个分区内每个像素点在校正前、后之间的坐标映射关系,构建remap矩阵Hi2i。通过双线性插值法,对图像进行畸变校正,得到棋盘格图像的每个分区的正视图。
拼接棋盘格图像各个分区的无畸变正视图,生成棋盘格整个图像的无畸变正视图,如图7所示。
6、图像校正结果评价:提取棋盘格图像的无畸变正视图的标志点坐标,计算列标志点垂直度、行标志点水平度、相邻标志点分布均匀度,基于列标志点垂直度、行标定点水平度、相邻标志点分布均匀度对校正后的图像进行校正评价,验证本发明提出的面向大视场平面视觉测量的图像校正方法的准确性和有效性。图9为本发明提供的行标志点水平度(Horizontal degree ofline corner)计算结果示意图。行标志点水平度HM是一个39×1的向量,如图9所示,横坐标Row Index为标志点行数,纵坐标HM为行标志点水平度,图中显示的是39行标志点的水平度数值。图10为本发明提供的列标志点垂直度(Vertical degreeofcolumn corner)计算结果示意图。列标志点垂直度VM是一个63×1的向量,如图10所示,横坐标Column Index为标志点列数,纵坐标VM为列标志点垂直度,图中显示的是63列标志点的垂直度数值。图11为本发明提供的水平相邻标志点分布均匀度(Distributionuniformity of horizontal corner points)计算结果示意图。水平相邻标志点分布均匀度UHM是一个39×1的向量,如图11所示,横坐标Row Index为标志点行数,纵坐标UHM为水平相邻标志点分布均匀度,图中显示的是39行标志点水平相邻分布均匀度数值。图12为本发明提供的垂直相邻标志点分布均匀度(Distribution uniformity of Verticalcornerpoints)计算结果示意图。垂直相邻标志点分布均匀度UVM是一个63×1的向量,如图12所示,横坐标Column Index为标志点列数,纵坐标UVM为垂直相邻标志点分布均匀度,图中显示的是63列标志点垂直相邻分布均匀度数值。其VM<0.045,HM<0.5,UHM<0.12,UVM<0.11,充分验证了本发明面向大视场平面视觉测量的图像校正方法的有效性。
基于本发明提供的方法,本发明还提供一种面向大视场平面视觉测量的图像校正系统,所述系统包括:
棋盘格图像获取模块,用于获取待测平面的棋盘格图像;所述待测平面上放置有棋盘格标定板。
标志点检测和分区模块,用于对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区。
训练数据库建立模块,用于为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库。
图像校正模型建立模块,用于建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型。
remap矩阵建立模块,用于利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵。
待测平面图像获取模块,用于获取待测平面图像并对所述待测平面图像进行分区。
分区无畸变正视图生成模块,用于利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图。
待测平面无畸变正视图生成模块,用于拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。
其中,所述棋盘格图像获取模块,具体包括:
相机设置单元,用于将配有广角镜头的相机固定于所述待测平面视场的上方,利用LED光源对拍摄区域进行补光;
棋盘格图像获取单元,用于在所述待测平面上放置所述棋盘格标定板,利用计算机控制所述相机拍摄获取所述棋盘格图像。
其中,所述标志点检测和分区模块,具体包括:
标志点检测单元,用于对所述棋盘格图像进行标志点检测,提取棋盘格的角点作为所述标志点;
实际图像坐标提取单元,用于提取所述标志点的实际图像坐标;
分区单元,用于根据所述标志点的实际图像坐标分布对所述棋盘格图像进行分区;每个所述分区包含的标志点数量大于或等于60个。
其中,所述训练数据库建立模块,具体包括:
理想图像坐标设置单元,用于根据所述标志点的实际图像坐标分布和图像校正的目标,为所述标志点设置理想图像坐标;
训练数据库建立单元,用于根据所述每个分区内所有标志点的实际图像坐标和理想图像坐标构成每个分区的训练数据库。
其中,所述remap矩阵建立模块,具体包括:
理想图像坐标计算单元,用于利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标;
remap矩阵建立单元,用于根据所述每个分区中所有像素点的实际图像坐标和理想图像坐标之间的映射关系,构建每个分区的remap矩阵。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种面向大视场平面视觉测量的图像校正方法,其特征在于,包括:
获取待测平面的棋盘格图像;所述待测平面上放置有棋盘格标定板;
对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区;
为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库;
建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型;
利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵;
获取待测平面图像并对所述待测平面图像进行分区;
利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图;
拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。
2.根据权利要求1所述的图像校正方法,其特征在于,所述获取待测平面的棋盘格图像,具体包括:
将配有广角镜头的相机固定于所述待测平面视场的上方,利用LED光源对拍摄区域进行补光;
在所述待测平面上放置所述棋盘格标定板,利用计算机控制所述相机拍摄获取所述棋盘格图像。
3.根据权利要求1所述的图像校正方法,其特征在于,所述对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区,具体包括:
对所述棋盘格图像进行标志点检测,提取棋盘格的角点作为所述标志点;
提取所述标志点的实际图像坐标;
根据所述标志点的实际图像坐标分布对所述棋盘格图像进行分区;每个所述分区包含的标志点数量大于或等于60个。
4.根据权利要求1所述的图像校正方法,其特征在于,所述为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库,具体包括:
根据所述标志点的实际图像坐标分布和图像校正的目标,为所述标志点设置理想图像坐标;
根据所述每个分区内所有标志点的实际图像坐标和理想图像坐标构成每个分区的训练数据库。
5.根据权利要求1所述的图像校正方法,其特征在于,所述利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵,具体包括:
利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标;
根据所述每个分区中所有像素点的实际图像坐标和理想图像坐标之间的映射关系,构建每个分区的remap矩阵。
6.一种面向大视场平面视觉测量的图像校正系统,其特征在于,包括:
棋盘格图像获取模块,用于获取待测平面的棋盘格图像;所述待测平面上放置有棋盘格标定板;
标志点检测和分区模块,用于对所述棋盘格图像进行标志点检测,提取所述标志点的实际图像坐标并对所述棋盘格图像进行分区;
训练数据库建立模块,用于为所述标志点设置理想图像坐标,根据所述标志点的实际图像坐标和理想图像坐标建立每个分区的训练数据库;
图像校正模型建立模块,用于建立深度学习网络模型,并利用所述每个分区的训练数据库分别为每个分区训练所述深度学习网络模型,生成每个分区训练好的图像校正模型;
remap矩阵建立模块,用于利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标,计算每个分区的remap矩阵;
待测平面图像获取模块,用于获取待测平面图像并对所述待测平面图像进行分区;
分区无畸变正视图生成模块,用于利用所述每个分区的remap矩阵生成所述待测平面每个分区的无畸变正视图;
待测平面无畸变正视图生成模块,用于拼接所述待测平面各个分区的无畸变正视图,生成所述待测平面图像的无畸变正视图。
7.根据权利要求6所述的图像校正系统,其特征在于,所述棋盘格图像获取模块,具体包括:
相机设置单元,用于将配有广角镜头的相机固定于所述待测平面视场的上方,利用LED光源对拍摄区域进行补光;
棋盘格图像获取单元,用于在所述待测平面上放置所述棋盘格标定板,利用计算机控制所述相机拍摄获取所述棋盘格图像。
8.根据权利要求6所述的图像校正系统,其特征在于,所述标志点检测和分区模块,具体包括:
标志点检测单元,用于对所述棋盘格图像进行标志点检测,提取棋盘格的角点作为所述标志点;
实际图像坐标提取单元,用于提取所述标志点的实际图像坐标;
分区单元,用于根据所述标志点的实际图像坐标分布对所述棋盘格图像进行分区;每个所述分区包含的标志点数量大于或等于60个。
9.根据权利要求6所述的图像校正系统,其特征在于,所述训练数据库建立模块,具体包括:
理想图像坐标设置单元,用于根据所述标志点的实际图像坐标分布和图像校正的目标,为所述标志点设置理想图像坐标;
训练数据库建立单元,用于根据所述每个分区内所有标志点的实际图像坐标和理想图像坐标构成每个分区的训练数据库。
10.根据权利要求6所述的图像校正系统,其特征在于,所述remap矩阵建立模块,具体包括:
理想图像坐标计算单元,用于利用所述每个分区的图像校正模型计算每个分区中所有像素点的理想图像坐标;
remap矩阵建立单元,用于根据所述每个分区中所有像素点的实际图像坐标和理想图像坐标之间的映射关系,构建每个分区的remap矩阵。
CN202210428357.4A 2022-04-22 2022-04-22 一种面向大视场平面视觉测量的图像校正方法及系统 Active CN114820787B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210428357.4A CN114820787B (zh) 2022-04-22 2022-04-22 一种面向大视场平面视觉测量的图像校正方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210428357.4A CN114820787B (zh) 2022-04-22 2022-04-22 一种面向大视场平面视觉测量的图像校正方法及系统

Publications (2)

Publication Number Publication Date
CN114820787A true CN114820787A (zh) 2022-07-29
CN114820787B CN114820787B (zh) 2024-05-28

Family

ID=82504907

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210428357.4A Active CN114820787B (zh) 2022-04-22 2022-04-22 一种面向大视场平面视觉测量的图像校正方法及系统

Country Status (1)

Country Link
CN (1) CN114820787B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103942796A (zh) * 2014-04-23 2014-07-23 清华大学 一种高精度的投影仪-摄像机标定系统及标定方法
EP3200148A1 (en) * 2014-10-31 2017-08-02 Huawei Technologies Co., Ltd. Image processing method and device
CN107657643A (zh) * 2017-08-28 2018-02-02 浙江工业大学 一种基于空间平面约束的视差计算方法
CN108198219A (zh) * 2017-11-21 2018-06-22 合肥工业大学 用于摄影测量的相机标定参数的误差补偿方法
CN108760767A (zh) * 2018-05-31 2018-11-06 电子科技大学 基于机器视觉的大尺寸液晶屏缺陷检测方法
CN108876749A (zh) * 2018-07-02 2018-11-23 南京汇川工业视觉技术开发有限公司 一种鲁棒的镜头畸变校正方法
CN108986172A (zh) * 2018-07-25 2018-12-11 西北工业大学 一种面向小景深系统的单视图线性摄像机标定方法
CN110660034A (zh) * 2019-10-08 2020-01-07 北京迈格威科技有限公司 图像校正方法、装置及电子设备
CN111667536A (zh) * 2019-03-09 2020-09-15 华东交通大学 一种基于变焦相机深度估计的参数标定方法
WO2021115071A1 (zh) * 2019-12-12 2021-06-17 中国科学院深圳先进技术研究院 单目内窥镜图像的三维重建方法、装置及终端设备
CN113358061A (zh) * 2021-05-31 2021-09-07 东南大学 端到端标定深度学习网络的单幅条纹三维点云测量方法
CN113850195A (zh) * 2021-09-27 2021-12-28 杭州东信北邮信息技术有限公司 一种基于3d视觉的ai智能物体识别方法
US20220076391A1 (en) * 2019-06-24 2022-03-10 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image Distortion Correction Method and Apparatus

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103942796A (zh) * 2014-04-23 2014-07-23 清华大学 一种高精度的投影仪-摄像机标定系统及标定方法
EP3200148A1 (en) * 2014-10-31 2017-08-02 Huawei Technologies Co., Ltd. Image processing method and device
CN107657643A (zh) * 2017-08-28 2018-02-02 浙江工业大学 一种基于空间平面约束的视差计算方法
CN108198219A (zh) * 2017-11-21 2018-06-22 合肥工业大学 用于摄影测量的相机标定参数的误差补偿方法
CN108760767A (zh) * 2018-05-31 2018-11-06 电子科技大学 基于机器视觉的大尺寸液晶屏缺陷检测方法
CN108876749A (zh) * 2018-07-02 2018-11-23 南京汇川工业视觉技术开发有限公司 一种鲁棒的镜头畸变校正方法
CN108986172A (zh) * 2018-07-25 2018-12-11 西北工业大学 一种面向小景深系统的单视图线性摄像机标定方法
CN111667536A (zh) * 2019-03-09 2020-09-15 华东交通大学 一种基于变焦相机深度估计的参数标定方法
US20220076391A1 (en) * 2019-06-24 2022-03-10 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image Distortion Correction Method and Apparatus
CN110660034A (zh) * 2019-10-08 2020-01-07 北京迈格威科技有限公司 图像校正方法、装置及电子设备
WO2021115071A1 (zh) * 2019-12-12 2021-06-17 中国科学院深圳先进技术研究院 单目内窥镜图像的三维重建方法、装置及终端设备
CN113358061A (zh) * 2021-05-31 2021-09-07 东南大学 端到端标定深度学习网络的单幅条纹三维点云测量方法
CN113850195A (zh) * 2021-09-27 2021-12-28 杭州东信北邮信息技术有限公司 一种基于3d视觉的ai智能物体识别方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
LAIGANG ZHANG; YIBIN LI; YONGJUN ZHAO; QUN SUN; YING ZHAO: "High Precision Monocular Plane Measurement for Large Field of View", 2018 IEEE 8TH ANNUAL INTERNATIONAL CONFERENCE ON CYBER TECHNOLOGY IN AUTOMATION, CONTROL, AND INTELLIGENT SYSTEMS (CYBER), 11 April 2019 (2019-04-11) *
W. TURNER; LTD;: "The Document Architecture for the Cornell Digital Library", IETF RFC1691, 31 August 1994 (1994-08-31) *
张来刚;魏仲慧;何昕;孙群: "多约束融合算法在多摄像机测量系统中的应用", 液晶与显示, 15 August 2013 (2013-08-15) *
牛苗苗;孙灿;熊海涵: "基于tsai方法的多项畸变模型单目摄像机标定", 科技与企业, 22 June 2015 (2015-06-22) *
王东伟: "基于FPGA的双目立体视觉图像采集处理系统设计", 航空精密制造技术, 15 February 2018 (2018-02-15) *

Also Published As

Publication number Publication date
CN114820787B (zh) 2024-05-28

Similar Documents

Publication Publication Date Title
CN107507235B (zh) 一种基于rgb-d设备采集的彩色图像和深度图像的配准方法
CN108288294A (zh) 一种3d相机群的外参标定方法
CN109523595B (zh) 一种建筑工程直线棱角间距视觉测量方法
CN111210468A (zh) 一种图像深度信息获取方法及装置
WO2019080229A1 (zh) 基于机器视觉的棋子定位方法、系统、存储介质及机器人
Zhou et al. Line-based camera calibration with lens distortion correction from a single image
CN108305233B (zh) 一种针对微透镜阵列误差的光场图像校正方法
CN104657982A (zh) 一种投影仪标定方法
CN106340044A (zh) 摄像机外参自动标定方法及标定装置
CN102496160A (zh) 集控式足球机器人视觉系统标定方法
CN104361603B (zh) 枪机图像目标标定方法及其系统
CN106971408A (zh) 一种基于时空转换思想的摄像机标定方法
CN115201883B (zh) 一种运动目标视频定位测速系统及方法
WO2022141324A1 (zh) 摄像头的硬件在环标定、靶点设置方法、系统及相关设备
CN113920206B (zh) 透视移轴相机的标定方法
CN114463442A (zh) 一种非同轴相机的标定方法
CN114998448A (zh) 一种多约束双目鱼眼相机标定与空间点定位的方法
CN112950528A (zh) 证件姿态确定方法、模型训练方法、装置、服务器及介质
CN118864609A (zh) 一种车载相机内外参联合标定方法、装置及系统
CN107492080A (zh) 免定标便捷的单目镜头图像径向畸变矫正方法
CN119006599B (zh) 用于车辆轴距测量的图像处理方法、装置、系统
CN116563370A (zh) 基于单目计算机视觉的测距方法和测速方法
CN209279912U (zh) 一种物体三维信息采集装置
CN114820787A (zh) 一种面向大视场平面视觉测量的图像校正方法及系统
CN109493356B (zh) 一种基于机器视觉的自动报靶系统智能标定方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant