CN109104604B - 多相机校准图表 - Google Patents
多相机校准图表 Download PDFInfo
- Publication number
- CN109104604B CN109104604B CN201810287716.2A CN201810287716A CN109104604B CN 109104604 B CN109104604 B CN 109104604B CN 201810287716 A CN201810287716 A CN 201810287716A CN 109104604 B CN109104604 B CN 109104604B
- Authority
- CN
- China
- Prior art keywords
- image
- region
- array
- camera
- dots
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000003550 marker Substances 0.000 claims abstract description 53
- 238000000034 method Methods 0.000 claims description 27
- 230000009977 dual effect Effects 0.000 description 24
- 238000010586 diagram Methods 0.000 description 9
- 230000004075 alteration Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 206010010071 Coma Diseases 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 201000009310 astigmatism Diseases 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00002—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
- H04N1/00026—Methods therefor
- H04N1/00045—Methods therefor using a reference pattern designed for the purpose, e.g. a test chart
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
- G06T2207/30208—Marker matrix
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
本申请案针对多相机校准图表,所述图表包括:背景;点阵列,其与所述背景形成对比,其中所述点阵列被布置成行及列,其中所述点阵列包括第一点阵列及第二点阵列,其中所述第一点阵列完全占据具有第一点密度的均匀间隔点第一区,所述第二点阵列完全占据具有第二点密度的均匀间隔点第二区,且其中所述第二区围封于所述第一区内;第一标记群组,其位于所述第一区中;第二标记群组,其位于所述第二区中;及第三标记,其位于所述图表的中心处,其中每一第二标记均比每一第一标记更靠近所述第三标记。
Description
技术领域
本发明大体来说涉及相机校准系统,且特定来说但不具排他性地涉及使用特殊图表以数字方式来校准双相机模块。双相机模块可包含两个不同焦距的相机,例如广角视场(广FOV)相机及摄远镜头相机。双相机模块也可包含两个相同焦距的相机,其中一个相机是彩色相机且另一相机是单色相机。
背景技术
例如蜂窝电话等移动装置具有包含一个后向式相机及一个前向式相机的常规设计。后向式相机定位于电话的后侧,且通常具有比前向式相机更高的像素分辨率。最近,制造商一直在实施双相机模块来作为移动电话上的后向式相机。双相机模块包含两个相机:举例来说,广视场(广FOV)相机,其用以捕获广FOV图像;及变焦摄远镜头(例如,2X变焦)相机,其用以捕获特写放大图像。两个相机的镜头是固定的,且在图像捕获期间不移动,但通过在广FOV图像与放大摄远图像之间进行数字式转变,双相机模块可模拟通常只能利用可移动的伸缩变焦镜头实现的相机变焦效应。实质上,双相机模块通过使用三角测量来产生深度场景几何图形的感觉。实现此效果需要两个相机之间准确的像素级对应匹配,使得可获得深度场景效果。
在理想情况下,如果双相机模块中的一对相机完美对准且无失真,那么可易于获得像素级对应匹配。然而事实上,由于制造及安装的瑕疵,两个相机通常会具有某种程度的镜头失真以及相机位置不对准。因此,直接对应匹配通常难以实现,且所估计深度图不可靠。因此,期望校正上述镜头失真及相机不对准以便改进双相机模块的性能。
发明内容
在一个方面中,本申请案针对一种用于校准具有多个相机的系统的图表,所述图表包括:背景;点阵列,其与所述背景形成对比,其中所述点阵列被布置成行及列,其中所述点阵列包括第一点阵列及第二点阵列,其中所述第一点阵列完全占据具有第一点密度的均匀间隔点第一区,所述第二点阵列完全占据具有第二点密度的均匀间隔点第二区,且其中所述第二区围封于所述第一区内;第一标记群组,其位于所述第一区中;第二标记群组,其位于所述第二区中;及第三标记,其位于所述图表的中心处,其中每一第二标记均比每一第一标记更靠近所述第三标记。
在另一方面中,本申请案针对一种使用图表来校准相机系统的方法,其中所述相机系统包含第一相机、第二相机及具有预存储理想图表图像的存储器单元,且其中所述图表包括:背景;点阵列,其与所述背景形成对比,其中所述点阵列被布置成行及列,其中所述点阵列包括具有第一点密度的均匀间隔点第一点阵列以及具有第二点密度的均匀间隔点第二点阵列,其中所述第一点阵列完全占据第一区,所述第二点阵列完全占据第二区,且其中所述第二区围封于所述第一区内;第一标记群组,其位于所述第一区中;第二标记群组,其位于所述第二区中,及第三标记,其位于所述图表的中心处,其中每一第二标记均比每一第一标记更靠近所述第三标记;其中所述方法包含:使用所述第一相机拍摄所述图表的第一图像的步骤,其中所述第一图像含有所述第一区、所述第一标记及所述点阵列的图像,随后将所述第一图像与所述预存储理想图像进行匹配;及使用所述第二相机拍摄所述图表的第二图像的步骤,其中所述第二图像含有所述第二区、所述第二标记及所述点阵列的图像,随后将所述第二图像与所述预存储理想图像进行匹配。
在另一方面中,本申请案针对一种使用图表来校准相机系统的方法,其中所述相机系统包含第一相机、第二相机及具有预存储理想图表图像的存储器单元,且其中所述图表包括:背景;点阵列,其与所述背景形成对比,其中所述点阵列被布置成行及列,其中所述点阵列包括具有第一点密度的均匀间隔点第一点阵列以及具有第二点密度的均匀间隔点第二点阵列,其中所述第一点阵列完全占据第一区,所述第二点阵列完全占据第二区,且其中所述第二区围封于所述第一区内;第一标记群组,其位于所述第一区中,第二标记群组,其位于所述第二区中,及第三标记,其位于所述图表的中心处,其中每一第二标记均比每一第一标记更靠近所述第三标记;其中所述方法包含:使用所述第一相机拍摄所述图表的第一图像的步骤,其中所述第一图像含有所述第一区、所述第一标记及所述点阵列的图像,随后将所述第一标记的所述图像与所述预存储理想图表图像对准;使用所述第二相机拍摄所述图表的第二图像的步骤,其中所述第二图像含有所述第二区、所述第二标记及所述点阵列的图像,随后将所述第二标记的所述图像与所述预存储理想图表图像对准;及将所述第一图像及所述第二图像的所述点阵列与所述预存储理想图表图像进行匹配。
附图说明
参考以下各图描述本发明的非限制性及非穷尽性实例,其中除非另有规定,否则贯穿各个视图相似参考编号指代相似零件。
图1A是利用棋盘校准图表校准的相机的示范性实施例。
图1B是预存储理想棋盘校准图表图像与所拍摄的实际棋盘校准图表图像之间的比较。
图2A是利用点阵列校准图表校准的双相机模块的示范性实施例。
图2AA是对点阵列校准图表的解构。
图2AB是对预存储理想图像的解构。
图2B是预存储理想点阵列校准图表图像与由广FOV相机拍摄的实际点阵列校准图表图像之间的比较。
图2C是预存储理想点阵列校准图表图像与由摄远镜头相机拍摄的实际点阵列校准图表图像之间的比较。
图3是示范性点阵列校准图表。
图3A展示示范性点阵列校准图表的多个第一类型点的第一点阵列。
图3B展示示范性点阵列校准图表的多个第二类型点的第二点阵列。
图3C展示在将第一点阵列与第二点阵列叠加之后所得的点阵列。
图3D展示示范性变体式第一类型点及示范性第二类型点。
图4是利用点阵列校准图表来校准双相机模块的步骤方法。
图4A是利用点阵列校准图表来校准双相机模块的替代步骤次序。
贯穿图式的数个视图,对应参考符号指示对应组件。所属领域的技术人员将了解,图中的元件是为简单及清晰起见而图解说明,且未必按比例绘制。举例来说,各图中一些元件的尺寸可相对于其它元件被放大以帮助改进对本发明的各种实施例的理解。此外,通常不绘示在商业上可行实施例中有用或必需的常见而众所周知的元件以便促进对本发明的这些各种实施例的较不受阻碍的观看。
具体实施方式
在以下描述中,陈述众多特定细节以提供对实例的透彻理解。然而,相关领域的技术人员将认识到,本文中所描述的技术可在不具有具体细节中的一或多者的情况下实践或者可利用其它方法、组件、材料等来实践。在其它实例中,未详细展示或描述众所周知的结构、材料或操作以避免使某些方面模糊。
在本说明书通篇提及“实例”或“实施例”意指结合所述实例所描述的特定特征、结构或特性包含于本发明的至少一个实例中。因此,在本说明书通篇各处出现的“实例”或“实施例”未必均指代同一实例。此外,可在一或多个实例中以任何适合方式组合特定特征、结构或特性。
在本说明书通篇,使用数个技术术语。这些术语将呈现其在其所属领域中的一般含义,除非本文中另外具体定义或其使用的上下文将另外清晰地暗示。
一种相机系统包含多个相机。在一个实施例中,所述相机系统是包含两个相机的双相机模块,其中第一相机是彩色相机,其包含作为其图像传感器像素的多色彩滤光器(例如红色、绿色及蓝色的彩色滤光器);且第二相机是单色相机,其仅包含单个类型的彩色滤光器(例如,仅绿色滤光器)。
在另一实施例中,双相机模块包含:第一相机,其镜头具有第一焦距;及第二相机,其镜头具有第二焦距。作为此实施例的实例,第一焦距是第二焦距的两倍。在此实例的具体设计中,第一相机是广视场(广FOV)相机,其捕获广视野图像,且第二相机是变焦摄远镜头(例如,2X变焦)相机,其捕获特写变焦图像。
在本发明通篇,包括广FOV相机及2X摄远相机的双相机模块用于图解说明本发明的各种实施例。应了解,发明范围并不限于广FOV相机及摄远相机对。广FOV相机及摄远相机只是用于说明性目的的示范性术语。指代第一相机及第二相机的其它术语(举例来说,具有第一焦距的第一相机及具有第二焦距的第二相机)在本发明中同样适用。此外,在一些实例中,第一焦距是第二焦距的两倍。
两个相机通常可由于在工厂制造及随后安装到双相机模块中时出现的瑕疵而具有某种程度的镜头失真及相机位置不对准。期望在两个相机安装之后校准所述两个相机以便校正可能的镜头失真,且也修整广FOV图像及摄远图像两者使得看起来已基于相对相机姿势估计而将两个相机完美对准。
图1A展示示范性的基于棋盘图表的相机校准系统100,其中通过以下方式校准相机102:首先拍摄黑白棋盘图表101的图像110,且接着将此图像110与已预存储于相机的存储器103中的理想棋盘图像120进行匹配。预存储的理想图像120无任何失真,而由相机102拍摄的图表101的图像110可能由于相机镜头瑕疵及相机102相对于棋盘图表101的位置不对准这两者而失真。实际上,逐点地进行所拍摄图像110与理想图像120的匹配,其中每一匹配点是“四个拐角”点,即两个黑色与两个白色正方形交会的交叉点。举例来说,如图1B中所展示,将所拍摄图像110上的给定点111与理想图像120的对应点121进行匹配。接着以数字方式调整相机102的操作参数(例如,图像输出参数),使得可将失真的图像110校正成是(无失真)理想图像120的无瑕疵准确及/或精确投影的图像。
上述基于棋盘图表的相机校准过程具有几个缺陷。当使用相同棋盘图表来校准由广FOV相机及摄远相机组成的双相机模块时,这些缺陷尤其明显。第一,利用棋盘图表进行的校准仅对其中“四个拐角”点可易于定位的具有锐边的聚焦图像有较好效果,但此方法对其中“四个拐角”点模糊因此不易定位的非聚焦图像效果不理想。第二,对无变焦操作的广FOV相机来说,棋盘保持较低点密度,但对有变焦操作(举例来说,2倍变焦)的摄远相机来说,棋盘保持较高点密度。两个相机的焦距是不同的,且处理具有两种不同点密度的图像是复杂的。第三,当点密度高时,理想图像(预存储于相机的存储器中)中的点与所拍摄图像的点之间的匹配很耗时。第四,棋盘的对称布局使得难以辨别所拍摄图像是颠倒还是正面朝上。第五,棋盘图表方法不能补偿光学像差所导致的测量误差。
本文中揭示基于点阵列图表的经改进相机校准系统的实施例。图2A展示基于点阵列图表的相机校准系统200,其中通过以下方式校准相机系统(例如双相机模块201):首先拍摄点阵列图表210的两个图像230及240,且接着将每一图像与预存储于双相机模块的存储器204中的理想图像220进行匹配。针对此实施例更具体来说,双相机模块201包含广FOV相机202及摄远相机203。双相机模块201定位于点阵列图表210正前方,即处于正交观看位置。
点阵列图表210包含:第一图表区211,其横跨图表210的整体;及第二图表区212,其局部地位于图表210的中心周围。如图2AA中更详细地展示,第一图表区211大于第二图表区212。第一图表区211与第二图表区212重叠达到第二图表区212的整体,且围封第二图表区212。总之,点阵列图表210是叠加于第二图表区212上的第一图表区211。
预存储理想图像220对应于点阵列图表210。如图2AB中更具体地展示,预存储理想图像220包含:第一理想图像区221,其对应于第一图表区211;及第二理想图像区222,其对应于第二图表区212。第一理想图像区221大于第二理想图像区222。第一理想图像区221与第二理想图像区222重叠达到第二理想图像区222的整体,且围封第二理想图像区222。总之,理想图像220是叠加于第二理想图像区222上的第一理想图像区221。
广FOV相机202拍摄整个点阵列图表210(包含第一图表区211及第二图表区212两者)的广FOV图像230。摄远相机203拍摄点阵列图表210的摄远图像240,从而在其第二图表区212上放大但实质上将排除第一图表区211的未与第二图表区212重叠的部分。由于广FOV相机202及摄远相机203两者可能具有某种程度的镜头失真及位置不对准(相对于图表210及/或相对于彼此来说),因此广FOV图像230及摄远图像240也可能相对于预存储理想图像220来说存在某种程度的失真。在图像230及240被拍摄之后,其各自将被与预存储理想图像220进行匹配,如本文中所揭示。
图2B展示广FOV图像230与预存储理想图像220匹配的实施例。广FOV图像230包含:第一FOV图像区231,其对应于点阵列图表210的第一图表区211;及第二FOV图像区232,其对应于点阵列图表210的第二图表区212。当将广FOV图像230与预存储理想图像220进行匹配时,仅将第一FOV图像区231与第一理想图像区221进行匹配。不将第二FOV图像区232与理想图像220的任何部分进行匹配。匹配是以逐点方式执行,其中将第一FOV图像区231的点与第一理想图像区221的对应点进行匹配。由于此匹配,广FOV相机202的操作参数(例如,图像输出参数)被相应地调整(例如,通过数字手段),使得失真的广FOV图像230可经修整以与无失真理想图像220完全匹配。
图2C展示摄远图像240与预存储理想图像220匹配的实施例。摄远图像240包含:第二摄远图像区242,其对应于点阵列图表210的第二图表区212。摄远图像240不包含对应于点阵列图表210的第一图表区211的第一图像区的整体。而是,摄远图像240包含对应于第一图表区211与第二图表区212重叠的部分的部分第一摄远图像区241。换句话说,摄远图像240是第二摄远图像区242与部分第一摄远图像区241的叠加。当将摄远图像240与预存储理想图像220进行匹配时,将整个摄远图像240与理想图像220的中心区224进行匹配。此中心区224是第二理想图像区222在部分第一理想图像区223上的叠加,其中此部分第一理想图像区223是第一理想图像区221与第二理想图像区222重叠的部分。匹配是以逐点方式执行,其中将摄远图像240的点与理想图像220的中心区224的对应点进行匹配。由于此匹配,摄远相机203的操作参数(例如,图像输出参数)被相应地调整(例如,通过数字手段),使得失真的摄远图像240可经修整以与无失真理想图像220的中心区224完全匹配。
由于上文所揭示的程序,广FOV相机202及摄远相机203两者的操作参数将得以调整,使得其现存问题(例如镜头失真、位置不对准等)可被充分校正,使得看起来两个相机一开始便无失真且是适当对准的。
图3是用于双相机模块校准的校准图表300的实施例。校准图表300是先前在图2A及2AA中所揭示的图表210的实例。图表300可由纸、塑料、纤维或其它类型的材料制成且是无形虚拟形式,例如可由投影仪投影到平坦壁上的数字文件。校准图表300包含背景301及布置成行303及列304的点阵列302。每一点302与背景301形成对比。举例来说,背景301是白色的或具有浅色彩,且每一点302是黑色的或具有对比性的深色彩。相反,背景301也可以是黑色的或具有深色彩,且每一点302可以是白色的或具有对比性的浅色彩。每一点302可以是圆形形状或其它形状,例如规则多边形(六边形、12边形等)。圆形点或具有许多边(六个边或更多)的规则多边形具有期望特性,即具有高度对称性,且允许甚至在点或多边形的图像散焦且模糊时仍可以可靠地识别点或多边形的中心。
点阵列302包括:第一点阵列310,其由第一类型点311构成;及第二点阵列320,其由第二类型点321构成。通过例如大小、形状、色彩等特定特性来区分第一类型点311与第二类型点321。举例来说,第一类型点311具有比第二类型点321大约30%的直径,如图3中所展示。另一选择为,第一类型点311可能是黑色而第二类型点321可能是蓝色的等等。
图3展示叠加于第一点阵列310上的第二点阵列320。本文中描述图3A、3B及3C以进一步更详细地揭示第一点阵列与第二点阵列的叠加布置。
图3A展示仅由第一类型点311构成的第一点阵列310。仅出于说明目的,每一第一类型点311在本文中被描绘为圆圈点,以便与下文所揭示的第二类型点321清晰地区分开。实际上,第一类型点311及第二类型点321可均为实心深色圆形点。第一点阵列310完全占据第一图表区350。第一区350具有第一类型点311的均匀间隔阵列及第一点密度。举例来说,第一点密度区355中的点密度为一个/单位面积(1=1/4*4)。
图3B展示仅包含第二类型点321的第二点阵列320。出于说明性目的,每一第二类型点321被描绘为实心圆形点,以便与图3A中被描绘为圆圈的第一类型点311清晰地区分开。实际上,第一类型点311及第二类型点321可均为实心深色圆形点。第二点阵列320完全占据第二图表区360。对图3B中的第二点阵列320的点布置图案与图3A中的第一点阵列310的点布置图案进行比较,可了解到第二点阵列320包含均匀间隔的间隙322。如果这些间隙322各自被第二类型点321占据,那么第二点阵列320将具有第二类型点321的均匀间隔阵列。当将第二点阵列320叠加到第一点阵列310上时将清楚这些间隙322的用途,如下文所揭示。
图3C展示第一点阵列与第二点阵列的叠加,其中第二点阵列320定位在第一点阵列310的中心周围。由于此叠加,第二点阵列320内的每一间隙322(如图3B中所展示)现在被第一类型点311占据。第二区360仍被第二类型点321完全占据,但此区现在也被若干个第一类型点311占据。部分第一区350-2现在与第二区360重叠,其中此重叠的第一区350-2涵盖整个第二区360,因此这两个区360及350-2是相同的。第一区350-1的另一部分不与第二区360重叠。此非重叠第一区350-1仍维持其第一类型点311的原始均匀间隔图案以及其一个/单位面积的第一点密度。
应了解,在第一点阵列310与第二点阵列320叠加之后,第二区360现在被第一类型点311及第二类型点321占据,且具有是第一点密度值的四倍的第二点密度。举例来说,如图3C中所展示,位于非重叠第一区350-1内的第一点密度区355中的点密度是1(1=1/4*4),而位于第二区360内的第二点密度区365中的点密度是4(1/4*4+1/2*4+1=4)。
返回参考图3,应了解点阵列302包含先前在图3A中所描述的第一点阵列310及先前在图3B中所描述的第二点阵列320。所述第一点阵列310仅由第一类型点311构成,而第二点阵列仅由第二类型点321构成。图表300通过将第一点阵列310与第二点阵列320叠加而形成,与图3C的描述类似。
在将第一点阵列310与第二点阵列320叠加之前,第一点阵列310完全占据先前在图3A中所描述的第一图表区350,而第二点阵列320完全占据先前在图3B中所描述的第二图表区360。第一点阵列310与第二点阵列320的叠加形成非重叠第一区350-1及重叠的第一区350-2,重叠的第一区350-2与第二图表区360相同,如先前在图3C中所描述。非重叠第一区350-1仅由第一类型点311构成,而第二区360(与重叠的第一区350-2相同)是由第一类型点311及第二类型点321混合构成。叠加之前的第一区350的第一点密度与叠加之后的非重叠第一区350-1的点密度相同,且是一个/单位面积。相比之下,第二区360在叠加之后的第二点密度是四个/单位面积,这是第一点密度的四倍。
图表300包含第一标记355的群组。图3展示四个第一标记355的群组的实例,所述四个第一标记各自位于第一区350内部;更具体来说,位于第二区360附近的拐角及边界区域处。四个第一标记355被均匀间隔开以界定与第二区360基本上重叠的矩形区。另一选择为,在上述拐角及边界区域中可存在含三个、五个或另外数目个第一标记355的群组。每一第一标记355是圆形或多边形形状,其被细分成圆形或多边形区段,其中所有区段在圆形或多边形的中心处交会,且交替地填充有深色彩及浅色彩。举例来说,每一第一标记355是被细分成黑色与白色交替的四个相等扇区的圆形,如图3中所展示。
图表300也包含第二标记365的群组,第二标记365各自位于第二区360内部,如图3中所展示。四个第二标记365被均匀间隔开以在第二区360内部界定矩形区。另一选择为,在第二区360内部可存在含三个、五个或另外数目个第二标记365的群组。与第一标记355类似,每一第二标记365是圆形或多边形形状,其被细分成交替地填充有深色彩及浅色彩的圆形或多边形区段。举例来说,每一第二标记365是被细分成黑色与白色交替的四个相等扇区的圆形,如图3中所展示。
应了解,每一第一标记355在例如大小及图案等特定特性上不同于每一第二类标记365。举例来说,如图3中所展示,每一第一标记355所具有的直径是每一第二类标记365的直径的两倍。另外,每一第一标记355内部的黑白扇区排列图案与每一第二标记365相反。
图表300包含位于图表的中心周围也位于第二区360的中心周围的单个第三标记375。单个第三标记375优选地包含至少一个锐边以达成使相机聚焦的目的。在图3中,第三标记375是商标,但其它形状也是可行的,只要存在至少一个锐边即可。图表300还包含第四标记385的群组,第四标记385各自位于图表300的拐角周围。第四标记385是任选的。
应了解,每一第二标记365距第三标记375的距离比每一第一标记355更近。这是因为第三标记375位于第二区360的中心周围;每一第二标记365基本上位于第二区360内部;且每一第一标记355位于第二区360的外边界周围的区域中,因此更加远离中心第三标记375。
应了解,位于第二区360的中心附近的第三标记375实际上是略微偏心的。更具体来说,第三标记375将第二区360细分成左侧部分360L及右侧部分360R,其中左侧部分360L具有与右侧区360R(例如,21列)不同数目的点列(例如,19列)。此略微离心的设计特征用于通过分别计数第二区360的左侧部分(360L)及右侧部分(360R)中的点列的数目来快速辨别图表300是颠倒还是正面朝上。
本文中揭示与第二区360内部的点有关的任选特征。具体来说,第二区360由摄远镜头相机203(参见图2A)捕获以用于其校准,且摄远镜头相机203比广FOV相机202更易于发生光学像差,这归因于摄远相机203的镜头性质。光学像差(例如彗形像差(comaticaberration)或像散)使规则形状的图像降级成模糊的不规则形状图像。在当前揭示的内容中,由摄远相机203捕获的第二区360内部的圆形点的图像可能因光学像差而变得模糊,且可能失真成非圆形形状。此将使得难以识别点的中心。为了解决此问题,为第二区360内部的每一点设置任选设计特征,如本文中所进一步揭示。
第二区360内部的每一第二类型点321可具有圆形的第二类型点中心322,如图3D中所展示。第二类型点中心322与第二类型点321的其余部分形成对比,例如浅色彩对深色彩。第二类型点中心322具有是第二类型点321的直径的至多十分之一的直径,以便达到使点中心322可识别但不会过大的平衡。
类似地,第二区360内部的每一第一类型点311可以是具有圆形第一类型点中心313的变体式第一类型点312,图3D中也进行了展示。变体式第一类型点312与规则的第一类型点311类似,但具有圆形点中心313。第一类型点中心313与变体式第一类型点312的其余部分形成对比,例如浅色彩对深色彩。第一类型点中心313具有是变体式第一类型点312的直径的至多十分之一的直径,以便达到使点中心313可识别但不会过大的平衡。
第二区360内的第一类型点312内部的第一类型点中心313及第二区360内的第二类型点321内部的第二类型点中心322经部分地设置以使得如由摄远相机203拍摄的第一类型点312及第二类型点321的图像的中心更易于识别。此在其中点312及321可能变得模糊且失真成非圆形形状的光学像差情况中特别重要。
图4揭示示范性校准方法400,校准方法400使用上文所揭示的校准图表300来校准包括广FOV相机202及摄远相机203的双相机模块201。结合先前所揭示的图系列2及3可更好地理解此示范性校准方法400,且本文中更详细地揭示此示范性校准方法400。
方法400包含两个总步骤410及420。步骤410包含若干个子步骤。在子步骤411中,在正交观看位置处,广FOV相机202拍摄包含第一点阵列310及第二点阵列320的整个校准图表300的广FOV图像,第一点阵列310包括第一类型点311且第二点阵列320包括第二类型点321。图表300还具有包含上文所揭示的第一标记355、第二标记365及第三标记375的第一区350及第二区360。此所拍摄的图像与图2B中所揭示的广FOV图像230类似。接着,将广FOV图像230与预存储于相机存储器204中的理想图像(与图2AB中所揭示的理想图像220类似)进行匹配。此匹配在粗略匹配及微调匹配两个步骤中进行。首先,在子步骤412中,将第一标记355的图像与理想图像220的第一标记对准。这是粗略匹配步骤。接着,在微调匹配子步骤413中,以逐点形式将第一点阵列310的图像与预存储理想图像220的第一点阵列进行匹配。步骤413中不涉及第二点阵列320。换句话说,仅涉及第一区350,而不涉及第二区360。调整广FOV相机202的输出参数以实现广FOV图像230与理想图像220之间点的的精确匹配。结果是精确校准广FOV相机202以校正其例如镜头失真及位置不对准等问题。
步骤420可与步骤410并行地执行或者可与步骤410互换。类似于步骤410,步骤420也包含若干个子步骤。在子步骤421中,在正交观看位置处,摄远相机203拍摄校准图表300的第二区360的摄远图像,其中此第二区360包含第一点阵列310及第二点阵列320,第一点阵列310及第二点阵列320包括第一类型点311(或变形312)及第二类型点321以及第二标记365及第三标记375,如上文所揭示。此所拍摄的图像与图2C中所揭示的摄远图像240类似。接着,将摄远图像240与预存储于相机存储器204中的理想图像220进行匹配。此匹配也在粗略匹配及微调匹配两个步骤中进行。首先,在子步骤422中,将第二标记365的图像与理想图像220的第二标记对准。这是粗略匹配步骤。接着,在微调匹配子步骤423中,以逐点形式将第二区360内部的第一类型点311(或312)及第二类型点321的图像与预存储理想图像220的第二区进行匹配。步骤413中不涉及第一点阵列310在第二区360外部的部分。调整摄远相机203的输出参数以实现摄远图像240与理想图像220之间点的精确匹配。结果是精确校准摄远相机203以校正其例如镜头失真及位置不对准等问题。
应了解,粗略匹配步骤412及422应分别在图像拍摄步骤411及421之后被执行,且微调匹配步骤413及423应在粗略匹配步骤之后被执行。还应了解,微调匹配步骤413及423可作为组合步骤被执行,如图4A中所展示。
第二区360的第二点密度四倍于第一区350的第一点密度的显而易见的原因是,摄远相机203相对于广FOV相机202可以是2X变焦相机这一事实。当广FOV相机202拍摄整个图表300的图像且仅使用第一点阵列310以用于校准时,一个/单位面积的第一点密度贯穿整个图像存在。当摄远相机203拍摄图表300的第二区360的图像且将其用于校准时,第二点密度是四个/单位面积,但在2X变焦(在图像的长度及宽度两方面)之后,所得点密度将被减小到四分之一(即一个点/单位面积)以用于点匹配步骤423。因此,摄远相机203可使用与广FOV相机202基本上相同的微调点匹配程序或算法。由于第二点密度相对于第一点密度的关系,此益处可部分地得以实现。
在前述揭示内容中,包括广FOV相机及2X摄远相机的双相机系统用于图解说明本发明的各种实施例。应了解,发明范围并不限于广FOV相机及摄远相机对。广FOV相机及摄远相机只是用于说明性目的的示范性术语。指代第一相机及第二相机的其它术语(举例来说,具有第一焦距的第一相机及具有第二焦距的第二相机)同样适用于本发明。此外,在一些实例中,第一焦距是第二焦距的两倍。
本发明的所图解说明实例的以上描述(包含发明摘要中所描述内容)并不打算具穷尽性或将本发明限制于所揭示的精确形式。虽然本文中出于说明性目的描述本发明的具体实例,但如相关领域的技术人员将认识到,可在本发明的范围内做出各种修改。
可鉴于以上详细描述对本发明做出这些修改。以下权利要求书中所使用的术语不应被理解为将本发明限制于本说明书中所揭示的具体实例。而是,本发明的范围将完全由以下权利要求书来决定,所述权利要求书将根据所创建的权利要求解释原则来加以理解。
Claims (7)
1.一种使用图表来校准相机系统的方法,其中所述相机系统包含第一相机、第二相机及具有所述图表的预存储理想图表图像的存储器单元,且其中所述图表包括:
背景;
点阵列,其与所述背景形成对比,其中所述点阵列被布置成行及列,其中所述点阵列包括具有第一点密度的均匀间隔点第一点阵列以及具有第二点密度的均匀间隔点第二点阵列,其中所述第一点阵列完全占据第一区和第二区的非重叠区,所述第一点阵列和所述第二点阵列完全占据所述第一区和所述第二区的重叠区,且其中所述第二区围封于所述第一区内;
第一标记群组,其位于所述第一区中;第二标记群组,其位于所述第二区中;及第三标记,其位于所述图表的中心处,其中每一第二标记均比每一第一标记更靠近所述第三标记,且其中每一第一标记不同于每一第二标记;
其中所述方法包含:
a)使用所述第一相机俘获所述图表的第一图像的步骤,其中所述第一图像含有所述第一区、所述第二区、所述第一标记、所述第二标记、所述第三标记及所述第一区和所述第二区中的所述点阵列的图像,随后将所述第一图像与所述预存储理想图表图像进行匹配,其中所述将所述第一图像与所述预存储理想图表图像进行匹配进一步包含:
将所述第一标记的所述图像与所述预存储理想图表图像对准;及
将所述第一图像的所述第一点阵列与所述预存储理想图表图像进行匹配;及
b)使用所述第二相机俘获所述图表的第二图像的步骤,其中所述第二图像含有所述第二区、所述第二标记、所述第三标记及所述第二区中的所述点阵列的图像,随后将所述第二图像与所述预存储理想图表图像进行匹配,其中所述将所述第二图像与所述预存储理想图表图像进行匹配进一步包含:
将所述第二标记的所述图像与所述预存储理想图表图像对准;及
将所述第二图像的所述点阵列与所述预存储理想图表图像进行匹配。
2.根据权利要求1所述的方法,其中所述第一相机具有第一焦距,且所述第二相机具有第二焦距,其中所述第一焦距是所述第二焦距的两倍。
3.根据权利要求2所述的方法,其中所述第一相机是广视场相机,且所述第二相机是摄远镜头相机。
4.根据权利要求2所述的方法,其中步骤a)可与步骤b)互换。
5.一种使用图表来校准相机系统的方法,其中所述相机系统包含第一相机、第二相机及具有所述图表的预存储理想图表图像的存储器单元,且其中所述图表包括:
背景;
点阵列,其与所述背景形成对比,其中所述点阵列被布置成行及列,其中所述点阵列包括具有第一点密度的均匀间隔点第一点阵列以及具有第二点密度的均匀间隔点第二点阵列,其中所述第一点阵列完全占据第一区和第二区的非重叠区,所述第一点阵列和所述第二点阵列完全占据所述第一区和所述第二区的重叠区,且其中所述第二区围封于所述第一区内;
第一标记群组,其位于所述第一区中;第二标记群组,其位于所述第二区中;及第三标记,其位于所述图表的中心处,其中每一第二标记均比每一第一标记更靠近所述第三标记,且其中每一第一标记不同于每一第二标记;
其中所述方法包含:
a)使用所述第一相机俘获所述图表的第一图像的步骤,其中所述第一图像含有所述第一区、所述第二区、所述第一标记、所述第二标记、所述第三标记及所述第一区和所述第二区中的所述点阵列的图像,随后将所述第一标记的所述图像与所述预存储理想图表图像对准;
b)使用所述第二相机俘获所述图表的第二图像的步骤,其中所述第二图像含有所述第二区、所述第二标记、所述第三标记及所述第二区中的所述点阵列的图像,随后将所述第二标记的所述图像与所述预存储理想图表图像对准;及
c)将所述第一图像及所述第二图像的所述点阵列与所述预存储理想图表图像进行匹配。
6.根据权利要求5所述的方法,其中所述第一相机是广视场相机,且所述第二相机是摄远镜头相机。
7.根据权利要求5所述的方法,其中步骤a)可与步骤b)互换。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/627,813 US11082566B2 (en) | 2017-06-20 | 2017-06-20 | Multiple camera calibration chart |
US15/627,813 | 2017-06-20 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109104604A CN109104604A (zh) | 2018-12-28 |
CN109104604B true CN109104604B (zh) | 2021-08-24 |
Family
ID=64657820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810287716.2A Active CN109104604B (zh) | 2017-06-20 | 2018-04-03 | 多相机校准图表 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11082566B2 (zh) |
CN (1) | CN109104604B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021050042A1 (en) | 2019-09-09 | 2021-03-18 | Google Llc | Face authentication embedding migration and drift-compensation |
WO2021061112A1 (en) | 2019-09-25 | 2021-04-01 | Google Llc | Gain control for face authentication |
EP3827409B1 (en) * | 2019-10-04 | 2023-01-04 | Google LLC | Autocalibration for multiple cameras using near-infrared illuminators |
DE112019007808T5 (de) | 2019-10-10 | 2022-08-04 | Google LLC | Kamera-synchronisation und bild-markieren für eine gesichtsauthentifizierung |
EP3848900A1 (en) | 2020-01-10 | 2021-07-14 | Aptiv Technologies Limited | Methods and systems for calibrating a camera |
DE102020212285A1 (de) * | 2020-09-29 | 2022-03-31 | Myestro Interactive Gmbh | Verfahren zur räumlichen Bilderfassung mit Hilfe einer zwei Kameras aufweisenden Stereokamera sowie Verfahren zur Erzeugung einer redundanten Abbildung eines Messobjektes und Vorrichtung zur Durchführung der Verfahren |
CN117911542B (zh) * | 2024-03-19 | 2024-06-11 | 杭州灵西机器人智能科技有限公司 | 一种标定板、标定板识别方法、系统、设备及介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1801896A (zh) * | 2006-01-17 | 2006-07-12 | 东南大学 | 摄像机标定数据的采集方法及其标定板 |
CN105407342A (zh) * | 2014-09-10 | 2016-03-16 | 钰创科技股份有限公司 | 图像校准系统和立体摄像机的校准方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7046840B2 (en) * | 2001-11-09 | 2006-05-16 | Arcsoft, Inc. | 3-D reconstruction engine |
KR101893788B1 (ko) * | 2012-08-27 | 2018-08-31 | 삼성전자주식회사 | 다시점 카메라간 정합 장치 및 방법 |
US20140211227A1 (en) * | 2013-01-30 | 2014-07-31 | Hewlett-Packard Indigo, B.V. | Methods and Systems for Monitoring an Image Capturing Device |
US9688200B2 (en) * | 2013-03-04 | 2017-06-27 | Magna Electronics Inc. | Calibration system and method for multi-camera vision system |
US9641736B2 (en) * | 2014-06-20 | 2017-05-02 | nearmap australia pty ltd. | Wide-area aerial camera systems |
US10297034B2 (en) * | 2016-09-30 | 2019-05-21 | Qualcomm Incorporated | Systems and methods for fusing images |
-
2017
- 2017-06-20 US US15/627,813 patent/US11082566B2/en active Active
-
2018
- 2018-04-03 CN CN201810287716.2A patent/CN109104604B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1801896A (zh) * | 2006-01-17 | 2006-07-12 | 东南大学 | 摄像机标定数据的采集方法及其标定板 |
CN105407342A (zh) * | 2014-09-10 | 2016-03-16 | 钰创科技股份有限公司 | 图像校准系统和立体摄像机的校准方法 |
Also Published As
Publication number | Publication date |
---|---|
US20180367681A1 (en) | 2018-12-20 |
CN109104604A (zh) | 2018-12-28 |
US11082566B2 (en) | 2021-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109104604B (zh) | 多相机校准图表 | |
EP1343332B1 (en) | Stereoscopic image characteristics examination system | |
US8717485B2 (en) | Picture capturing apparatus and method using an image sensor, an optical element, and interpolation | |
EP2536153B1 (en) | Image capture device, image capture system, and image capture method | |
CN102326380B (zh) | 有行缓冲区高效透镜畸变校正功能的图像传感器装置和方法 | |
CN102547116B (zh) | 焦点检测设备及其控制方法 | |
US20160061594A1 (en) | System and method of measuring and correcting tilt angle of lens | |
KR101053506B1 (ko) | 어안 렌즈를 구비하는 카메라 모듈에 의해 획득된 영상의 왜곡 보정을 위한 파라미터 조정 방법 | |
US9652847B2 (en) | Method for calibrating a digital optical imaging system having a zoom system, method for correcting aberrations in a digital optical imaging system having a zoom system, and digital optical imaging system | |
CN103428509A (zh) | 用于图像调整的设备、系统和方法 | |
EP2813827B1 (en) | Brightness measurement method, brightness measurement device, and image quality adjustment technology using same | |
CN102696228B (zh) | 成像设备和混色校正方法 | |
CN105100558A (zh) | 具有可移动彩色滤光器群组的晶片级相机 | |
KR20100059896A (ko) | 이미지 센서 | |
US20160112699A1 (en) | Testing chart, camera module testing system and camera module testing method | |
JP2020517183A (ja) | 部分視野を撮像するための装置、多開口撮像装置およびそれらを提供する方法 | |
JP3706159B2 (ja) | カラー重ね合せ誤差の補正方法及び装置 | |
GB2460241A (en) | Correction of optical lateral chromatic aberration | |
CN105806480B (zh) | 一种基于自适应微透镜阵列传感器的数字变焦光谱成像仪 | |
US7742087B2 (en) | Image pickup device | |
US10057520B2 (en) | Image sensor, image acquiring device comprising same, and portable terminal comprising the device | |
CN103081481A (zh) | 立体摄影装置和立体摄影方法 | |
CN110650331B (zh) | 阵列摄像模组测试方法及其标板装置 | |
CN113063496B (zh) | 成像光谱装置 | |
CN103869587B (zh) | 用于众视点裸视真三维显示系统的输出校准方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |