[go: up one dir, main page]

CN118154829B - 一种集成猫眼功能的成像系统 - Google Patents

一种集成猫眼功能的成像系统 Download PDF

Info

Publication number
CN118154829B
CN118154829B CN202410572068.0A CN202410572068A CN118154829B CN 118154829 B CN118154829 B CN 118154829B CN 202410572068 A CN202410572068 A CN 202410572068A CN 118154829 B CN118154829 B CN 118154829B
Authority
CN
China
Prior art keywords
image
light
imaging
module
floodlight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202410572068.0A
Other languages
English (en)
Other versions
CN118154829A (zh
Inventor
张思曼
郑周胜
李安
陈驰
张莉萍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Angstrong Technology Co ltd
Original Assignee
Shenzhen Angstrong Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Angstrong Technology Co ltd filed Critical Shenzhen Angstrong Technology Co ltd
Priority to CN202410572068.0A priority Critical patent/CN118154829B/zh
Publication of CN118154829A publication Critical patent/CN118154829A/zh
Application granted granted Critical
Publication of CN118154829B publication Critical patent/CN118154829B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/13Sensors therefor
    • G06V40/1324Sensors therefor by using geometrical optics, e.g. using prisms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Optics & Photonics (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明实施例公开了一种集成猫眼功能的成像系统。该成像系统中,主控模块在猫眼成像模式下,控制接收相机采集环境光获得环境图像;在生物识别成像模式下,控制光源模块分别投射泛光和/或结构光,并控制接收相机至少采集泛光的反射光,也可增加采集结构光的反射光,对应获得泛光图像和/或结构光图像;其中,接收相机采集环境图像的视场角大于或等于采集结构光图像的视场角和采集泛光图像的视场角,以使主控模块根据环境图像进行环境显示,根据结构光图像和泛光图像进行生物识别。本发明实施例既丰富了成像系统的功能,使系统集成猫眼功能的同时,还具有刷脸功能或刷掌功能,又能够减少光学元件,降低物料成本和组装难度,使小型集成化成为可能。

Description

一种集成猫眼功能的成像系统
技术领域
本发明涉及生物识别领域,特别涉及一种集成猫眼功能的成像系统。
背景技术
在现有的生物识别技术中,集成刷脸功能、刷掌功能的成像系统已经广泛应用于移动支付、智能门锁等领域。随着应用需求的发展,在集成刷脸和/或刷掌功能的基础上,进一步集成猫眼功能的成像系统正逐渐成为主流解决方案。集成猫眼功能的成像系统既可以实现身份验证,也可以通过猫眼实现实时或远程监控画面等功能,具有更广泛的应用前景。
图1是相关技术中的一种集成猫眼功能的成像系统的系统架构图,如图1所示,现有典型的集成猫眼功能的成像系统中,成像模组包括泛光照明模块101’、泛光图像采集模块103’、猫眼模块105’,也可以包括结构光投射模块102’和3D结构光图像采集模块104’。泛光图像采集模块103’、3D结构光图像采集模块104’、猫眼模块105’通常为三个独立的单元,每个单元分别具有各自的成像芯片、成像透镜、滤光片,分别用于结构光图像采集、泛光图像采集和猫眼功能。泛光照明模块101’、结构光投射模块102’也通常为两个独立的单元,每个单元分别具有各自的光源、光束整形器件。此类集成猫眼功能的成像系统结构复杂度较高,光学元件较多,物料成本和组装难度较大,不利于小型集成化。
发明内容
本发明提供一种集成猫眼功能的成像系统,以将猫眼、刷脸、刷掌功能集成在同一个相机中,丰富成像系统的功能,同时减少系统的光学元件,实现小型化和集成化的集成猫眼功能成像系统。
本发明实施例提供了一种集成猫眼功能的成像系统,包括成像模组和主控模块:成像模组包括光源模块和一个接收相机;
光源模块用于至少投射泛光;
接收相机用于对泛光投射到目标物体后的反射光或环境光下目标物体的反射光进行采集成像;
主控模块分别与光源模块和接收相机电连接;
成像系统具有猫眼成像模式和生物识别成像模式;
在猫眼成像模式下,主控模块用于控制接收相机采集环境光下目标物体的反射光获得环境图像,或者,控制光源模块投射泛光并控制接收相机采集泛光投射到目标物体后的反射光获得环境图像;
在生物识别成像模式下,主控模块用于控制光源模块至少投射泛光,并控制接收相机至少采集泛光投射到目标物体后的反射光,对应获得泛光图像;其中,环境图像、泛光图像满足如下条件:FOV1≥FOV2;其中,FOV1为接收相机采集环境图像的视场角,FOV2为接收相机采集泛光图像的视场角;
主控模块还用于控制环境图像输出以进行显示;
主控模块还用于根据泛光图像进行生物识别。
本发明实施例的技术方案中,集成猫眼功能的成像系统包括成像模组和主控模块:成像模组包括光源模块和接收相机;主控模块在猫眼成像模式下,用于控制接收相机采集环境光下目标物体的反射光获得环境图像,或者,控制光源模块投射泛光并控制接收相机采集泛光投射到目标物体后的反射光获得环境图像;在生物识别成像下,用于控制光源模块投射泛光,并控制接收相机至少采集和泛光投射到目标物体后的反射光,对应获得泛光图像;其中,环境图像、泛光图像满足如下条件:FOV1≥FOV2;其中,FOV1为接收相机采集环境图像的视场角,FOV2为接收相机采集泛光图像的视场角;主控模块还用于控制环境图像输出以进行显示;主控模块还用于根据泛光图像进行生物识别。综上,本发明的集成猫眼功能的成像系统,在集成猫眼功能的同时,还可实现刷脸功能、刷掌功能中的一种或两种,实现了将成像模组的图像采集模块和猫眼模块合为一个单元,将猫眼、刷脸和/或刷掌功能集成在同一个相机中,由此既丰富了成像系统的功能,使系统集成猫眼功能的同时,还具有刷脸功能、刷掌功能中的一种或两种,又能够减少光学元件,降低物料成本和组装难度,使小型集成化成为可能。
附图说明
图1是相关技术中的一种集成猫眼功能的成像系统的系统架构图;
图2是本发明实施例提供的一种集成猫眼功能的成像系统的系统架构图;
图3是本发明实施例提供的一种成像模组的结构示意图;
图4是本发明实施例提供的另一种成像模组的结构框图;
图5是本发明实施例提供的一种结构光投射模块的结构示意图;
图6是本发明实施例提供的另一种结构光投射模块的结构示意图;
图7是本发明实施例提供的一种光源模块的结构示意图;
图8和图9是本发明实施例提供的另外两种光源模块的结构示意图;
图10是本发明实施例提供的一种接收相机的结构示意图;
图11是本发明实施例提供的一种成像透镜的光学畸变设计曲线图;
图12是本发明实施例提供的一种成像透镜的结构示意图;
图13是图12所示成像透镜的光学畸变设计曲线图;
图14-图16是本发明实施例提供的三种透射光谱曲线图;
图17是本发明实施例提供的一种RGB sensor的光电转换效率曲线图;
图18是本发明实施例提供的一种RGB-IR sensor的光电转换效率曲线图;
图19和图20是本发明实施例提供的又两种接收相机的结构示意图;
图21-图25是本发明实施例提供的多种成像模组的侧面或剖面示意图;
图26是本发明实施例提供的另一种集成猫眼功能的成像系统的系统架构图;
图27是本发明实施例提供的一种集成猫眼功能的成像系统的工作流程图;
图28和图29是本发明实施例提供的两种集成猫眼功能的成像系统的工作示意图;
图中:
101’-泛光照明模块,102’-结构光投射模块,103’-泛光图像采集模块,104’-3D结构光图像采集模块,105’-猫眼模块;
101-成像模组,102-主控模块,103-外置设备模块;
1010-光源模块,1011-泛光照明模块,1012-结构光投射模块,1013-接收相机,1014-主板,10141-固定孔位,1015-环境光传感器,1016-接近光传感器;
10111-第一光源,10112-第二光源,10112(a)-第一子光源,10112(b)-第二子光源,10112(c)-第三子光源;
10121-第三光源,10122-准直镜,10123-衍射光学元件,10124-镜筒,101241第一安装槽,101242-第二安装槽,101243-第一金属端子,101244-第二金属端子,10125-准直衍射一体化光学元件,10120-垫高块;
10131-成像芯片,10132-成像透镜,10133-滤光组件,10134-支架;
1021-活体检测单元,1022-深度处理单元,1023-身份验证单元,1024-图像检测单元,1025-图像预处理单元。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。需要注意的是,本发明实施例所描述的“上”、“下”、“左”、“右”等方位词是以附图所示的角度来进行描述的,不应理解为对本发明实施例的限定。此外在上下文中,还需要理解的是,当提到一个元件被形成在另一个元件“上”或“下”时,其不仅能够直接形成在另一个元件“上”或者“下”,也可以通过中间元件间接形成在另一元件“上”或者“下”。术语“第一”、“第二”等仅用于描述目的,并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
本发明使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”。
需要注意,本发明中提及的“第一”、“第二”等概念仅用于对相应内容进行区分,并非用于限定顺序或者相互依存关系。
需要注意,本发明中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
图2是本发明实施例提供的一种集成猫眼功能的成像系统的系统架构图,参考图2,该集成猫眼功能的成像系统包括成像模组101和主控模块102:成像模组101包括光源模块1010和接收相机1013;光源模块1010用于至少投射泛光;接收相机1013用于对泛光投射到目标物体后的反射光或环境光下目标物体的反射光进行采集成像。
主控模块102分别与光源模块1010和接收相机1013电连接;主控模块102具有猫眼成像模式和生物识别成像模式;在猫眼成像模式下,主控模块102用于控制接收相机1013采集环境光下目标物体的反射光获得环境图像,或者,控制光源模块1010投射泛光并控制接收相机1013采集泛光投射到目标物体的反射光获得环境图像;在生物识别成像模式下,主控模块102用于控制光源模块至少投射泛光,并控制接收相机1013至少采集泛光投射到目标物体后的反射光,对应获得泛光图像;其中,环境图像、泛光图像满足如下条件:FOV1≥FOV2;其中,FOV1为接收相机1013采集环境图像的视场角,FOV2为接收相机1013采集泛光图像的视场角。
主控模块102还用于控制环境图像输出以进行显示;主控模块102还用于根据泛光图像进行生物识别。
首先,本发明实施例中的集成猫眼功能的成像系统,表示其可以实现猫眼功能,同时也可利用成像实现生物识别功能。本发明实施例中的生物识别功能具体可包括刷脸功能和刷掌功能中的一种或两种。另外,还可以理解的是,猫眼功能和生物识别功能存在的主要区别为:猫眼功能用于对环境图像进行采集和显示,生物识别功能用于对泛光图像中的生物信息进行采集和识别。进而,由于猫眼功能对环境图像的显示需要较大的视角,为用户提供更大范围的环境图像,而生物识别例如刷脸或刷掌功能主要需要对生物的脸部或掌部图像进行采集,其需要相对较小的视角。因此,本发明实施例中的猫眼成像模式可以理解为该成像系统执行猫眼功能,生物识别成像模式可以理解成该成像系统执行刷脸功能或刷掌功能中的一种或两种。本发明实施例中,主控模块102具有猫眼成像模式和生物识别成像模式,并且,在两种成像模式下可分别控制光源模块和接收相机1013进行不同打光状态下图像的采集,其实质是利用同一光源模块和同一接收相机1013,实现两种视角的图像采集,进而在实现猫眼功能的同时,实现刷脸或刷掌功能中的一种或两种。
具体地,在猫眼成像模式下,接收相机1013受主控模块102控制,负责采集环境图像,以进行猫眼显示;在生物识别成像模式下,接收相机1013受主控模块102控制,负责至少采集泛光图像,以至少通过泛光图像进行人脸识别或掌纹识别。由此可知,相较于泛光图像的视场角FOV2而言,环境图像的视场角FOV1一般而言会相对更大或相同,即FOV1≥FOV2。
上述技术方案,在集成猫眼功能的同时,还可实现刷脸功能、刷掌功能中的一种或两种,实现了将成像模组的图像采集模块和猫眼模块合为一个单元,将猫眼、刷脸和/或刷掌功能集成在同一个相机中,由此既丰富了成像系统的功能,使系统集成猫眼功能的同时,还具有刷脸功能、刷掌功能中的一种或两种,又能够减少光学元件,降低物料成本和组装难度,使小型集成化成为可能。
下面继续参考图2,对本发明的集成猫眼功能的成像系统的具体结构进行补充介绍。可选地,本发明的成像系统还包括主板,成像模组101和主控模块102设置在主板的同侧或异侧的表面上且均与主板电连接。由此,可以使成像系统集中在单一一个主板上,从而可以提高系统的集成度,缩小体积,有助于实现整个设备的小型化。主板用于承载以上所有模块。此外,继续参考图2,该成像系统还可包括外置设备模块103,外置设备模块103同样通过主板与主控模块102实现电连接。外置设备模块103用于信号和信息的响应、展示及输出。其中,成像模组101用于在猫眼功能下投射红外泛光,或在刷脸功能、刷掌功能下投射红外泛光或可见光泛光至目标物体,经目标物体反射后,猫眼功能下即可采集获得投射的红外泛光在目标物体上的反射光形成的原始泛光红外图、或环境光下目标物体的反射光形成的原始可见光图,也即环境图像;刷脸功能或刷掌功能下即可采集获得投射的红外泛光在目标物体上的反射光形成的原始泛光红外图、或可见光泛光在目标物体上的反射光形成的原始可见光图,也即泛光图像,然后将采集获得的成像信息和图像发送给主控模块102进行后续处理。主控模块102用于控制成像模组101,并对猫眼、刷脸、刷掌功能下从成像模组101采集到的成像信息和图像进行后续处理,再控制外置设备等模块进行响应,同时将信息和图像传输至上位机、用户终端、云端或外部等。
需要说明的是,上述方案中,光源模块投射泛光,故而在生物识别成像模式下,也即,在刷脸或刷掌功能下,成像模组101采集的图像更多是二维的泛光图像,主控模块102的后续处理,更多是利用此二维的泛光图像进行掌纹识别或人脸识别,具体的掌纹识别以及人脸识别原理和工作过程可参见后文。而为了提高识别的可靠性和安全性,本发明实施例中还提出了设置光源模块投射结构光的方案,通过在刷脸或刷掌功能下投射结构光,在人脸或手掌上形成反射光后,可采集获得携带有人脸或手掌深度信息的三维结构光图像,由此可利用该结构光图像转换为深度图像后,进行活体判断,从而增加刷脸和刷掌功能的识别准确度,有效阻止或避免识别系统受到的欺骗或攻击。
基于此,继续参考图2,在一实施例中,可选地,光源模块还用于投射结构光;接收相机1013还用于对结构光投射到目标物体后的反射光进行采集成像;在生物识别成像模式下,主控模块102还用于控制光源模块投射结构光,并控制接收相机1013采集结构光投射到目标物体后的反射光,对应获得结构光图像;环境图像和结构光图像满足如下条件:FOV1≥FOV3;其中,FOV3为接收相机1013采集结构光图像的视场角;主控模块102还用于根据结构光图像和泛光图像进行生物识别。
同样地,由于生物识别成像模式示例为刷脸或刷掌模式下,主要需要对生物的局部区域例如脸部或掌部进行图像采集,故而需要相对较小的视角;而猫眼成像模式示例为猫眼模式下需要为用户提供更大范围的环境图像,故而需要相对更大的视角。基于此,本实施例中在生物识别成像模式下采集的结构光图像的视场角FOV3相对较小,且小于或等于猫眼成像模式下的环境图像的视场角FOV1。
图3是本发明实施例提供的一种成像模组的结构示意图,参考图2和图3,首先,该成像模组还包括主板1014;主板1014包含固定孔位10141,通过固定孔位10141可以使主板1014固定在结构件上。为了使用同一个成像模组101实现成像系统的猫眼、刷脸、和/或刷掌功能,本发明提供以下多种成像模组101中光源模块1010和接收相机1013方案。
首先,可选地,光源模块1010包括泛光照明模块1011;泛光照明模块1011包括第一光源,第一光源用于出射红外波段光线,或者,泛光照明模块1011包括第一光源和第二光源,第一光源用于出射红外波段光线,第二光源用于出射至少一种可见光波段光线和/或至少一种红外波段光线,且第二光源出射的红外波段光线与第一光源出射的红外波段光线不同。
下面对本发明的泛光照明模块1011的实施方式进行介绍。具体地,泛光照明模块1011用于投射泛光,在猫眼、刷脸、刷掌功能下均使用。由于三种功能下所使用的泛光照明模块1011的光源波段和补光频率不一定相同,因此为了使用同一个泛光照明模块实现猫眼、刷脸、刷掌三种功能,本发明提供以下多种泛光照明模块方案。
在一实施例中,泛光照明模块1011所选用的光源即第一光源可以选择中心波长为930-950nm的光源(后面简称940nm光源)或中心波长为840-860nm的光源(后面简称850nm光源)。以选用940nm光源为例,刷脸功能或刷掌功能下均使用泛光照明模块1011所投射的940nm均匀泛光进行红外补光,开启刷脸功能或刷掌功能即开启泛光照明模块1011;猫眼功能下,当环境光照度低于某一阈值时开启泛光照明模块1011,使用泛光照明模块1011所投射的940nm均匀泛光进行红外补光,而当环境光照度不低于上述阈值时关闭泛光照明模块1011。此阈值依据接收相机1013中成像芯片暗光成像质量、帧率、实际应用场景等因素决定,一般该阈值的设置范围为5-100 Lux。
图4是本发明实施例提供的另一种成像模组的结构框图,参考图4,可选地,在另一实施例中,泛光照明模块1011在具有第一光源10111的基础上,还可以增加可见光波段或红外光波段的光源即第二光源10112,第二光源10112用于出射至少一种可见光波段光线或至少一种红外波段光线,表示其可以是包含一种或多种颜色的光源,如可以包含白光(多种颜色光混合的光),也可以是红光(波段600-800nm)、绿光(波段530-560nm)、蓝光(430-470nm)、黄光(波段570-600nm)、红外光(与第一光源波长不同的红外光,例如波段850nm、905nm、940nm、1550nm)等。具体地,以图4中示例,第二光源10112可包括第一子光源10112(a)、第二子光源10112(b)和第三子光源10112(c)。其中,第一光源10111投射红外光,第一子光源10112(a)投射白光,第二子光源10112(b)投射红外光,第三子光源10112(c)投射绿光。图中示例第一光源10111、第一子光源10112(a)、第二子光源10112(b)和第三子光源10112(c)四个光源拼接排列,本领域技术人员也可选采用其他排列方式,例如沿水平轴向方向间隔排列,此处对排列方式、顺序均无要求。
此时,在刷脸功能或刷掌功能下,泛光照明模块1011中可利用第一光源10111和第二光源10112分别投射均匀泛光,第一光源10111投射均匀红外泛光,第二光源10112投射至少一种均匀可见光泛光或另一种均匀红外泛光,从而实现多光谱泛光补光。在猫眼功能下,当环境光照度低于上述阈值时开启泛光照明模块1011,使用第一光源10111投射红外泛光进行红外补光,或使用第二光源10112投射至少一种可见光泛光或另一种红外泛光进行多光谱泛光补光。而当环境光照度不低于上述阈值时则关闭泛光照明模块1011。基于这一实施例,尤其刷脸功能或刷掌功能下,可以获得不同波段的图像,增加获取图片的类型,从而将多种类型的图片用于活体检测,增加活体检测所用图片的种类,增加系统身份识别的安全性。
可选地,在一些实施例中,泛光照明模块1011可以由LED光源+透镜组成,透镜设置在LED光源出光侧,用于扩大LED光源出射光束的视场角。可选地,在一些实施例中,泛光照明模块1011也可以由激光光源+扩散片(Diffuser)组成,Diffuser设置在激光光源的出光侧,Diffuser用于光束整形和匀光。
LED光源+透镜或激光光源+Diffuser均封装在陶瓷基板或其它材质的电路板上,封装体的下表面有正负极,下表面通过焊锡焊接于主板1014上。某些情况下LED光源或激光光源也可以通过垫高片垫高,一方面可以防止光源出光被器件遮挡,另一方面便于设置光源对应的开窗。
接下来,可选地,光源模块还可以包括结构光投射模块,结构光投射模块用于投射结构光;结构光投射模块包括第三光源,第三光源用于出射红外波段光线。
具体地,图5是本发明实施例提供的一种结构光投射模块的结构示意图,参考图5,结构光投射模块1012用于投射结构光,仅在刷脸和刷掌功能下使用,结构光投射模块1012包括第三光源10121,第三光源10121用于出射红外波段光线。为了使用同一个结构光投射模块实现刷脸和刷掌两种功能,本发明提供以下结构光投射模块方案。
结构光投射模块1012中第三光源10121可以采用激光光源,其可以是VCSEL(垂直腔面发射激光器)、EEL(边缘发射激光器)、HCSEL(水平腔面发射激光器)等激光发光光源。激光光源波段为红外波段,可以选择中心波长为930-950nm的光源(后文简称940nm光源)或中心波长为840-860nm的光源(后文简称850nm光源)。
进一步地,结构光投射模块中还设置有调光元件,调光元件为准直衍射一体化光学元件,或者,调光元件为超表面透镜,或者,调光元件为准直镜和衍射光学元件的组合。调光元件位于结构光投射模块中光源的出光侧,调光元件用于对结构光投射模块中光源的出射光进行调制,以对应投射出结构光。
下面对上述调光元件的可能情况进行介绍。首先,继续参考图5,在一实施例中,调光元件可以为准直镜10122和衍射光学元件10123。准直镜10122可以是由一片或多片透镜镜片组成,镜片固定在镜筒10124上,衍射光学元件10123固定在镜筒10124的台阶面上。激光光源的发光面位于准直镜10122的焦平面位置处。激光光源发出的光经准直镜10122后准直为平行光束,平行光束再经衍射光学元件10123衍射复制为带一定特征信息的结构光,如常见的散斑结构光。
图6是本发明实施例提供的另一种结构光投射模块的结构示意图,参考图6,可选地,调光元件还可以采用准直衍射一体化光学元件10125代替准直镜10122和衍射光学元件10123的组合,准直衍射一体化光学元件10125包含准直衍射功能一体的微结构面、基材,基材可以是玻璃材质(如石英)、塑料材质(如PC、PMMA等)。上述准直衍射一体化光学元件10125可以是通过在一片光学元件的基础上集成准直微结构面和衍射微结构面来实现,也可以使用一个微结构面来实现如上述的准直和衍射功能,如该微结构面可以是基于衍射原理设计的光栅微结构面,也可以是基于广义斯涅耳原理设计的超表面微结构面。激光光源的发光面位于准直衍射一体化光学元件10125的焦平面位置处。准直衍射一体化光学元件10125通过低流动性胶水固定在镜筒10124的安装槽中,镜筒10124通过胶水固定在主板1014上。此实施例中,准直衍射一体化光学元件10125替代了传统准直透镜10112和衍射光学元件10123组合中准直镜10122的准直功能以及衍射光学元件10123的衍射复制功能,通过将准直与衍射复制功能集成在一片光学元件上,减少一个准直透镜,降低物料成本和组装难度。
可选地,在又一实施例中,针对成像模组的光源模块,其中可设置结构光投射模块和泛光照明模块,并且可以将两者集成在同一个镜筒中,此时,结构光投射模块和泛光照明模块共用一个调光元件。调光元件位于泛光照明模块和结构光投射模块中光源的出光侧,调光元件用于分别对泛光照明模块和结构光投射模块中光源的出射光进行调制,以对应投射出泛光和结构光。
具体地,图7是本发明实施例提供的一种光源模块的结构示意图,参考图7,镜筒10124上有两个安装槽,即第一安装槽101241和第二安装槽101242,以及两个金属端子,即第一金属端子101243和第二金属端子101244。准直镜10122和衍射光学元件10123通过低流动性胶水固定在第一安装槽101241上,泛光照明模块1011通过低温固化的导电胶固定在第二安装槽101242上。泛光照明模块1011的下表面有正负极,正负极分别与不同的金属端子通过导电胶连接。第一金属端子101243和第二金属端子101244的上端面与第二安装槽101242的开槽面齐平,第一金属端子101243和第二金属端子101244的下端面突出第二安装槽101242的下表面,通过焊锡焊接或导电胶连接的方式电连于主板1014上。第一金属端子101243和第二金属端子101244通过模内注塑工艺内腔于镜筒10124内。此实施例中,通过模内注塑工艺将镜筒10124和金属端子一体加工成型,再将结构光投射模块1012与泛光照明模块1011集成在同一镜筒10124中,进一步简化模组的复杂度,易于制造和生产,便于小型集成化。
可选地,针对成像模组的光源模块,结构光投射模块和泛光照明模块还可以集成在一个投射器内。图8和图9是本发明实施例提供的另外两种光源模块的结构示意图,参考图8和图9,在本发明的可选实施例中,结构光投射模块1012中的第三光源10121,和泛光照明模块1011中的光源(图中示例仅包括第一光源10111)可设置在同一镜筒10124中,结构光投射模块1012中的第三光源10121,和泛光照明模块1011中的第一光源10111均与主板1014电连接,且第一光源10111通过垫高块10120与主板1014电连接。
其中,首先对比图8和图9可知,该两个可选实施例的区别在于,图8实施例中结构光投射模块1012和泛光照明模块1011共用一组调光元件,该调光元件具体可以是准直镜10122和衍射光学元件10123的组合,而图9实施例中调光元件为一个准直衍射一体化光学元件10125。结构光投射模块1012的第三光源10121的出射光线依次经准直镜10122和衍射光学元件10123或经准直衍射一体化光学元件10125后向目标场景投射结构光,泛光照明模块1011中的光源(示例为第一光源10111)出射的光线依次经准直镜10122和衍射光学元件10123或经准直衍射一体化光学元件10125后向目标场景投射泛光。第三光源10121和第一光源10111交替发光,即可实现不同的泛光补光功能。需要补充的是,垫高块10120一般可以是印刷电路板(Printed Circuit Board,PCB)、陶瓷基板或金属导电块;垫高块10120可以置于第一光源10111下方,也可以设置在泛光照明模块1011的光源的下方,垫高块10120的一方面作用是将光源垫高,使其中一个光源与另一个光源的发光面有一定的高度差,本实施例中,该高度差的存在使得第二光源10112的发光面位于准直镜10122或准直衍射一体化光学元件10125的虚焦平面,第一光源10111的发光面位于准直镜10122或准直衍射一体化光学元件10125的焦平面;另一方面作用是使光源电连于主板1014。此实施例实质是将结构光投射模块1012和泛光照明模块1011进一步集成在一个投射器内,更进一步简化模组的复杂度,更易于制造和生产,更便于小型集成化。在一些实施例中,泛光照明模块1011中的光源可以如前文所述同时包括第一光源10111和第二光源10112,也即,增加可见光波段或红外波段的光源即第二光源,第二光源可以是包含一种或多种颜色的子光源,如可以包含白光、红光、绿光、蓝光、黄光等,从而实现多光谱泛光补光,此处不再赘述。
接下来,图10是本发明实施例提供的一种接收相机的结构示意图,参考图10,接收相机1013用于成像,接收相机1013可包括成像芯片10131、成像透镜10132和滤光组件10133,成像透镜10132和滤光组件10133分别位于成像芯片10131的受光路径上;在猫眼成像模式下,滤光组件10133至少透射可见光波段光线或至少透射红外波段光线;在生物识别成像模式下,滤光组件10133至少透射红外波段光线。此外,该接收相机1013还可设置支架10134,用于承载和容纳成像芯片10131、成像透镜10132和滤光组件10133。
对于本发明实施例的接收相机,由于在集成猫眼功能的成像系统中,猫眼、刷脸、刷掌三种功能下需求的目标视场角(FOV)、目标成像距离范围不同,且目标光源波段不一定相同,所以目标场景在成像芯片10131上的成像区域、成像分辨率、成像像高不同,且成像波段不一定相同。通常,三种功能下目标视场角的大小排序为:猫眼功能>刷掌功能>刷脸功能。三种功能下目标成像距离范围分别是:刷掌功能下一般为4-25cm,刷脸功能下一般为0.3-1m,猫眼功能下一般为0.4-2.5m。三种功能下目标光源波段:猫眼功能下在环境光照度高于上述阈值时,物体反射环境光成像,在环境光照度低于上述阈值时,开启泛光照明模块1011进行红外补光,物体反射红外光成像;刷脸和刷掌功能下均需间隔开启结构光投射模块1012和泛光照明模块1011,开启结构光模块时,人脸或手掌反射红外光成像,开启泛光照明模块1011时,人脸或手掌反射红外光和/或可见光成像。为了使用同一个接收相机实现猫眼、刷脸和/或刷掌功能,本发明针对接收相机的各个结构件,提供以下多种方案。
可选地,针对接收相机1013中的成像透镜10132,本发明提供多种方案。首先,成像透镜10132用于将目标物体反射回来的光聚焦在成像芯片10131上成像。在现有技术中,由于猫眼功能下,对视场角要求越来越大,如一般要求对角视场角>155°,因此使用的成像透镜光学畸变较大,一般成像透镜的光学畸变>60%,而刷脸和刷掌功能下,使用光学畸变过大的成像透镜会影响身份识别的准确度,若选用光学畸变较小的成像镜头,现有光学畸变小的成像透镜一般对角视场角<120°,又难以满足猫眼的视场角的要求,因此现有技术一般使用两个摄像头,一个用于猫眼功能,一个用于刷脸或刷掌功能。
基于上述问题,本发明实施例对接收相机1013中的成像透镜10132进行了特殊设计。本发明实施例的成像系统中,生物识别成像模式具体可包括刷脸成像模式和刷掌成像模式;刷脸成像模式的成像目标为脸部图像,刷掌成像模式下的成像目标为掌部图像;刷掌成像模式下的图像输出视场角≤155°,刷脸成像模式下的图像输出视场角≤120°。由此,本发明实施例接收相机中的成像透镜10132满足:FOV≤155°时,最大畸变值小于或等于70%;FOV≤120°时,最大畸变值小于或等于5%;在120°<FOV<155°时畸变值随成像像高变大的增量,大于在FOV<120°时畸变值随成像像高变大的增量。此时,该成像透镜10132可满足猫眼功能、刷脸功能和刷掌功能三种应用场景下各自对应的视场角和光学畸变要求,能够清晰成像,便于有效地进行身份识别等。
可选地,针对于上述的成像透镜设计,本发明提出了多段式畸变分布的成像透镜的方案,从而使用同一个成像透镜兼顾猫眼功能的大视场需求和刷脸刷掌功能的小畸变需求。
具体地,图11是本发明实施例提供的一种成像透镜的光学畸变设计曲线图,参考图11,其中,纵坐标代表成像的像高,横坐标代表成像透镜的畸变设计值。图中以三段式畸变分布的成像透镜设计为例,其中第一段为a-b段(a点对应中心视场点)、第二段为b-c段、第三段为c-d段。图中|OP1|<|OP2|<|OP3|,Y1<Y2<Y3,且a-b光学段畸变值随成像像高变大的增量小于b-c段光学畸变值随成像像高变大的增量,b-c段光学畸变值随像高变大的增量小于c-d段光学畸变值随像高变大的增量;由于三种功能对光学畸变值的要求为:刷脸功能<刷掌功能<猫眼功能,因此将图中Y1像高内的图像输出用于刷脸功能,将Y2像高内的图像输出用于刷掌功能,将Y3像高内的图像输出用于猫眼功能。
优选地,刷脸功能下,成像区域对角视场优选范围通常小于120°,即Y1像高对应的视场角<120°,对光学畸变要求较高,|OP1|范围通常小于5%。刷掌功能下,成像区域对角视场优选范围通常小于155°,即Y2像高对应的视场角<155°,对光学畸变要求也较高,|OP2|范围通常小于70%。猫眼功能下,对成像区域的视场角要求较大,而对光学畸变设计值无特殊要求,因此成像区域对角视场角>155°,|OP3|值无特殊要求。基于这一成像透镜的畸变设计,可以实现使用同一个成像透镜兼顾猫眼功能的大视场需求和刷脸刷掌功能的小畸变需求。
图12是本发明实施例提供的一种成像透镜的结构示意图,参考图12,具体地,本发明基于上述方案设计了一款镜头作为样例,该镜头包括在水平方向延伸的两组透光组件,每组包含三个镜片,共六个镜片。前一组包括沿光入射方向依次设置的凸透镜、双凹透镜、凹透镜,其中双凹透镜的后侧面、凹透镜的前侧面和后侧面采用二次曲面,三者之间的距离沿光入射方向依次为4.694mm和2.054mm。后一组包括沿光入射方向依次设置的双凸透镜、双凹透镜、凸透镜,其中双凹透镜和凸透镜的前侧面和后侧面均采用二次曲面,三者之间的距离沿光入射方向依次为0.501mm和0.309mm。前一组透光组件与后一组透光组件之间的距离为6.159mm。透镜均采用玻璃材料。光阑设置在前一组的凹透镜与后一组的双凸透镜之间,与后一组的双凸透镜的间距为1mm。此镜头的焦距为1.5mm,总的半像高是2.85mm。
图13是图12所示成像透镜的光学畸变设计曲线图,如图13所示的成像透镜,在半像高2mm内的成像区域用于刷脸应用,对角视场角为105°,最大畸变值绝对值为2.53%;半像高2.65mm内的成像区域用于刷掌应用,对角视场角为140°,最大畸变值绝对值为35.35%;半像高2.85mm内的成像区域用于刷脸应用,对角视场角为170°,最大畸变值绝对值为83.62%。0-2mm的畸变增量是1.265%/mm,2-2.65mm的畸变增量是50.49%/mm,2.65-2.85mm的畸变增量是241.4%/mm,也即,该示例的成像透镜可满足本发明实施例对于接收相机的设计要求。
可选地,在一些实施例中,如果系统同时支持猫眼、刷掌、刷脸功能,则可以采用上述三段式畸变分布的成像透镜。可选地,在一些实施例中,如果系统集成猫眼功能的同时,只支持刷脸、刷掌功能中的一种,则上述成像透镜的畸变设计只需要两种分段即可。
可选地,在一些实施例中,成像透镜也可以选用普通折射透镜,并在主控模块中通过算法对猫眼功能、刷脸或刷掌功能下的畸变进行矫正。例如使用ISP芯片自带的多项式畸变校正算法。可选地,由于猫眼功能下畸变要求较低,因此主控模块也可以只针对刷脸或刷掌功能进行畸变矫正,不对猫眼功能的畸变进行处理。
可选地,成像透镜10132可以是一体式镜头结构,成像透镜10132通过AA胶水固定在支架10134或主板1014上。可选地,成像透镜10132还可以固定在镜筒中,镜筒通过螺纹固定在支架10134中,支架10134通过胶水固定在主板1014上。
可选地,针对接收相机1013中的滤光组件10133,本发明提供多种方案。接收相机1013中的滤光组件10133,用于截止非有效光,让预期的光束通过滤光组件10133达到成像芯片10131上成像,达到抗环境光干扰的效果,得到预期的成像图像。猫眼、刷脸、刷掌三种功能下需要截止的非有效光的波段不一定相同;例如猫眼功能下,在光照充足时,需要让可见光波段的光束透过,其它波段的光束截止,在光照不足时,需要让红外光波段的光束透过;刷掌/刷脸功能在某些情况下需要将可见光波段的光束截止,让红外光波段的光束透过,在某些情况下又需要将红外光波段的光束截止,让可见光波段的光束透过。为了使用同一个接收相机1013实现猫眼、刷脸、和/或刷掌功能,本发明提供以下多种滤光组件方案。图14-图16是本发明实施例提供的三种透射光谱曲线图,下面参考图14-图16,并且以结构光投射模块1012和泛光照明模块1011均选用940nm光源搭配的滤光方案为例进行解释说明。此光谱曲线为示意曲线,并不限定本发明的滤光组件实际光谱规格。若光源选用其它波段,原理同下。
第一种方案,滤光组件10133包括第一滤光片、第二滤光片和切换机构;第一滤光片透射红外波段光线,第二滤光片透射红外波段和可见光波段光线;主控模块102用于在猫眼成像模式下控制切换机构驱动第二滤光片移动至成像芯片10131的受光路径上,在生物识别成像模式下控制切换机构驱动第一滤光片移动至成像芯片10131的受光路径上。
该方案实质为采用IR CUT的方案,IR CUT中包含两片滤光片,例如其中一个滤光片为940nm窄带滤光片,只对940nm附近波段的光束有高透过率,其光谱曲线如图14所示;一个滤光片为940nm和可见光的双通滤光片,只对可见光和940nm附近波段的光束有高透过率,其光谱曲线如图16所示;通过动力驱动机械结构即切换机构来实现滤光片的切换。在刷脸功能或刷掌功能下,启用940nm窄带滤光片,使成像芯片10131获取目标人脸或手掌的940nm原始散斑红外图和原始泛光红外图。在猫眼功能下,启用940nm和可见光的双通滤光片,当环境光照度低于上述阈值时,使成像芯片10131获取目标物体的940nm的原始泛光红外图,当环境光照度不低于上述阈值时,使成像芯片10131获取目标物体的原始可见光图。
第二种方案,滤光组件10133包括第一滤光片、第二滤光片和切换机构;第一滤光片透射红外波段光线,第二滤光片透射可见光波段;主控模块102用于在猫眼成像模式下且环境光强高于预设光强阈值时控制切换机构驱动第二滤光片移动至成像芯片10131的受光路径上,在猫眼成像模式下且环境光强低于预设光强阈值时控制切换机构驱动第一滤光片移动至成像芯片10131的受光路径上,在生物识别成像模式下控制切换机构驱动第一滤光片移动至成像芯片10131的受光路径上。
该方案实质上依旧是采用IR CUT方案,例如其中一个滤光片为940nm窄带滤光片,其光谱曲线如图14所示;一个滤光片为红外截止滤光片,只对可见光波段的光束有高透过率,其光谱曲线如图15所示;依旧通过动力驱动机械结构即切换机构来实现滤光片的切换。在刷脸功能或刷掌功能下,启用940nm窄带滤光片,使成像芯片10131获取目标人脸或手掌的940nm原始散斑红外图和原始泛光红外图。在猫眼功能下,当环境光照度低于上述阈值时,启用940nm窄带滤光片,使成像芯片10131获取目标物体的940nm的原始泛光红外图;当环境光照度不低于上述阈值时,启用红外截止滤光片,使成像芯片10131获取目标物体的原始可见光图。
第三种方案,滤光组件10133包括第一滤光片;第一滤光片为电致变色滤光片,主控模块102用于在猫眼成像模式下控制第一滤光片调节为透射可见光波段光线或红外波段光线,在生物识别成像模式下控制第一滤光片调节为透射红外波段光线。
该方案本质为采用电致变色滤光片,滤光片采用电致变色材料,通过驱动电路对滤光片施加不同的电压来实现电致变色。电致变色材料采用三氧化钨、紫罗精类等,在电压的作用下发生电化学氧化还原反应,使材料的颜色发生变化。例如,电致变色滤光片在刷脸功能或刷掌功能下,启用940nm单通模式,使成像芯片10131获取目标人脸或手掌的940nm原始散斑红外图和原始泛光红外图,其光谱曲线如图14所示;在猫眼功能下,当环境光照度低于上述阈值时,启用全通模式,使成像芯片10131获取目标物体的940nm的原始泛光红外图;当环境光照度不低于上述阈值时,启用可见光单通模式,使成像芯片10131获取目标物体的原始可见光图,其光谱曲线如图15所示。
第四种方案,滤光组件包括第一滤光片;第一滤光片透射红外波段和可见光波段光线。
该方案实质为仅采用一个双通滤光片,例如940nm和可见光的双通滤光片。此时,在刷脸功能或刷掌功能下,940nm波段的结构光和泛光通过滤光片,使成像芯片10131获取目标人脸或手掌的940nm原始散斑红外图和原始泛光红外图;在猫眼功能下,当环境光照度高于上述阈值时,环境光通过滤光片,使成像芯片10131获取目标场景的原始可见光图,当环境光照度低于上述阈值时,940nm的泛光通过滤光片,使成像芯片10131获取目标场景的原始泛光红外图。
可选地,在一些实施例中,若泛光照明模块1011还增加选用可见光波段的光源,针对上述滤光片方案补充如下内容:
第一种方案中,主控模块102还可在生物识别成像模式下控制切换机构驱动第二滤光片移动至成像芯片10131的受光路径上,即在刷掌或刷脸功能下,可以启用940nm和可见光的双通滤光片,使成像芯片10131获取目标人脸或手掌的原始可见光图(此处的原始可见光图可以是在白光补光下的原始可见光图,也可以是在多种波段的单色补光下的原始可见光图);
第二种方案中,主控模块102还可在生物识别成像模式下控制切换机构驱动第二滤光片移动至成像芯片10131的受光路径上,即在刷掌或刷脸功能下,还可以启用可见光的单通滤光片,使成像芯片10131获取目标人脸或手掌的原始可见光图;
第三种方案中,主控模块102还可在生物识别成像模式下控制第一滤光片调节为透射可见光波段光线,即在刷掌或刷脸功能下,还可以启用可见光的单通滤光模式,使成像芯片10131获取目标人脸或手掌的原始可见光图;
第四种方案中,在刷掌或刷脸功能下,可见光透过滤光片,使成像芯片10131获取目标人脸或手掌的原始可见光图。
可选地,在一些实施例中,滤光组件10133可以直接固定在支架10134中,支架10134通过胶水固定在主板1014上。可选地,在一些实施例中,滤光组件10133还可以集成在成像透镜10132的镜筒10124内,镜筒10124通过螺纹固定在支架10134中。
可选地,针对接收相机1013中的成像芯片10131,本发明提供多种方案,成像芯片10131为RGB sensor或RGB-IR sensor。
具体地,由于猫眼、刷脸、刷掌三种功能下需要相机中的成像芯片10131响应多种波段的光束成像,输出不同类型图像,且三种功能下成像需求的目标视场不同,因此需要相机中的成像芯片10131输出不同像高尺寸的图像。为了使用同一个成像芯片满足三种功能下不同的图像输出需求,本发明提供以下多种成像芯片方案。图17是本发明实施例提供的一种RGB sensor的光电转换效率曲线图,图18是本发明实施例提供的一种RGB-IR sensor的光电转换效率曲线图,下面参考图17和图18,对本发明实施例的成像芯片进行介绍。
第一种方案,采用RGB sensor。RGB sensor由Red、Green、Blue三种像素组成。
参考图17可知,三种像素对红外光也有一定的响应,因此RGB sensor既可以在环境光照射下输出目标场景的原始可见光图,也可以在泛光照明模块1011的补光照射下输出原始泛光红外图或原始可见光图,还可以在结构光投射模块1012的照射下输出原始散斑红外图。由于所需成像像高尺寸的大小排序为猫眼功能>刷掌功能>刷脸功能,因此RGBsensor的最大输出图像像高尺寸需大于等于猫眼功能下所需成像像高尺寸。RGB sensor采集的图像对应于结构光投射模块1012和泛光照明模块1011的投射方案,则以结构光投射模块1012和泛光照明模块1011均选用940nm光源为例,此RGB sensor在猫眼功能下,可以获取目标场景的940nm的原始泛光红外图、原始可见光图,在刷脸功能下,可以获取人脸的940nm原始散斑红外图、原始泛光红外图,在刷掌功能下,可以获取手掌的940nm的原始散斑红外图、原始泛光红外图,并将成像信息和图像发送给主控模块102进行后续处理。
可选地,在一些实施例中,泛光照明模块1011还增加选用可见光波段光源,则RGBsensor在刷脸或刷掌功能下还可以获取人脸或手掌的原始可见光图。
第二种方案,采用RGB-IR sensor。RGB-IR sensor由Red、Green、Blue、IR四种像素组成。
参考图18可知,IR像素主要用于对红外光进行响应,因此RGB-IR sensor同样既可以对原始可见光图成像,也可以对原始散斑红外图和原始泛光红外图成像。由于所需成像像高尺寸的大小排序为猫眼功能>刷掌功能>刷脸功能,因此RGB sensor的最大输出图像像高尺寸需大于等于猫眼功能下所需成像像高尺寸。RGB-IR sensor采集的图像同样对应于结构光投射模块1012和泛光照明模块1011的投射方案,则以结构光投射模块1012和泛光照明模块1011均选用940nm光源为例,RGB-IR sensor同样可以分别获取猫眼功能下的940nm的原始泛光红外图、原始可见光图,刷脸功能下的940nm原始散斑红外图、原始泛光红外图,刷掌功能下940nm的原始散斑红外图、原始泛光红外图,并将成像信息和图像发送给主控模块102进行后续处理。与第一种方案不同的是,一方面,由于相比于RGB sensor中的R、G、B像素,RGB-IR sensor中的IR像素对红外光具有更高的光电转换效率,IR成像时受环境光影响较小,因此在红外补光场景下应用,获取到的红外图效果更好;另一方面,由于RGB-IRsensor中的IR像素输出的图像或信息可以在后续的图像处理中单独提取,因此在红外补光场景下应用,优选使用普通双通滤光片即可过滤可见光波段的非有效光,可以进一步简化光学元件。
可选地,在一些实施例中,泛光照明模块1011还增加选用可见光波段光源,则RGB-IR sensor在刷脸或刷掌功能下还可以获取人脸或手掌的原始可见光图。
可选地,在一些实施例中,成像芯片10131是通过下表面的锡球通过焊锡的方式电联于主板1014上。可选地,在一些实施例中,成像芯片10131也可以是其下表面通过红胶粘连于主板1014上,成像芯片10131的上表面通过金属导线的方式与主板1014进行电性导通。
可选地,在一些实施例中,接收相机1013可以采用自动调焦的AF模组。自动调焦的AF模组采用自动调焦镜头,在三种功能下分别通过自动对焦算法来调节镜头与成像芯片10131之间的距离,以满足三种功能下的不同成像距离范围内都可以成像清晰。此方案下,对于三种系统功能,分别具有不同目标成像距离范围,分别为:刷掌功能下一般为4-25cm,刷脸功能下一般为0.3-1m,猫眼功能下一般为0.4-2.5m,故而可分别实现相匹配的景深范围,对应景深范围下接收相机1013可对上述目标距离下的物体清晰成像。
可选地,在一些实施例中,接收相机1013可以采用两段式调焦的AF模组。两段式调焦的AF模组采用两段式调焦镜头,通过调节镜头与成像芯片10131之间的距离,可以针对AB两个位置进行两段式对焦;A位置的对焦用于刷掌功能,以满足刷掌功能下的成像距离范围内都可以清晰成像;B位置的对焦用于刷脸功能或猫眼功能,以满足刷脸功能和猫眼功能下的成像距离范围内都可以清晰成像。相比于方案一,两段式调焦的AF模组无需使用自动对焦算法,有利于提高接收相机1013中马达的可靠性寿命,且有利于节省计算资源和降低功耗。此方案下,对于三种系统功能分别具有不同目标成像距离范围,分别为:刷掌功能下一般为4-25cm,刷脸功能下一般为0.3-1m,猫眼功能下一般为0.4-2.5m,可在刷掌功能下设置一相对较近的景深范围,而对于刷脸功能和猫眼功能,对应设置一相对较远的景深范围,使得对应景深范围下接收相机1013可对上述目标距离下的物体清晰成像。
可选地,在一些实施例中,接收相机1013可以采用定焦模组。定焦FF模组采用固定焦距镜头,在固定焦距的情况下,需要满足三种功能下全范围内清晰成像,因此定焦FF模组需要优选大景深镜头,可以通过减小镜头的焦距,和/或增大镜头的F数值来提高镜头的景深。
相比于前两种方案,定焦FF模组的接收相机在猫眼成像模式、刷掌成像模式和刷脸成像模式下均满足如下条件:z=f2*l(f2-F*l*2*a)-f2*l(f2+F*l*2*a);其中,z为接收相机1013的景深,f为接收相机1013的焦距,l为接收相机1013在猫眼成像模式、刷掌成像模式或刷脸成像模式下的目标物距,F为接收相机1013的光圈值,a为接收相机1013中成像芯片10131的单个像素单元的尺寸。进一步地,f<2mm,F>1.7,a>1μm。
如上所述,相机在三种成像模式下均满足上述公式,即表示该相机可在三种成像模式下的目标物距下清晰成像。当对焦物距l一定时,镜头的f越小、光圈值F越大、搭配的成像芯片a越大,相机的景深范围z越大,因此定焦FF模组优选大景深镜头搭配大pixel-size的成像芯片使用。
在某些实施例中,可选地,搭配的镜头焦距f<2mm,光圈数值F>1.7,成像芯片的单像素尺寸a>1um。优选地,搭配镜头焦距f<1.5mm,光圈数值F>2,成像芯片的单像素尺寸a>2um。
如当焦距为0.9mm,光圈为2.4时,搭配芯片的pixel-size为3um,则镜头在9cm距离对焦时,对应的成像清晰的景深范围为4cm到无穷远,囊括了刷掌、刷脸、猫眼最近4cm最远2.5m清晰成像的距离范围。
在某些实施例中,由于刷掌时手掌距离相机较近,手掌不在相机的景深范围时,相机也能分辨掌纹或掌静脉的信息,对此相机的景深范围的近距离可以适当调整为较大的距离值,如将相机景深的最近距离由4cm调整为8cm。
可选地,在一些实施例中,针对接收相机的成像透镜和滤光组件还有如下方案,图19和图20是本发明实施例提供的又两种接收相机的结构示意图。具体地,参考图19,在本发明的又一实施例中,成像透镜10132可以采用超表面透镜、衍射透镜、折射透镜,或者,上述透镜的任意混合形态。进一步地,参考图20,在本发明的再一实施例中,滤光组件可以采用滤光膜(图中未示出),滤光膜贴附于成像透镜10132的表面。
如图19所示接收相机1013中,实质是采用超表面透镜、或衍射透镜、或超表面透镜、衍射透镜、折射透镜的任意混合形态代替传统折射透镜。其中,超表面透镜基于广义斯涅耳定律,通过引入表面亚波长尺寸单元结构来产生突变相位,使超表面的二维平面结构具有特殊电磁属性,可实现对入射光的振幅,相位,偏振等灵活的调控,具有强大的光场操控能力。超表面透镜一般是在高透过率的基材,如石英、SiO2、聚合物材料、PC上形成一层由多个亚波长尺寸单元按一定规律排列的微结构面;通过定义输入场和输出场的光场分布及光场信息(幅度和偏振信息等),即可求出超表面在不同位置下的相位分布,通过相位分布及超表面基材和微结构面的材料选取,计算可得到微结构面的结构分布。
如图20所示接收相机1013中,成像透镜为上述成像透镜10132,同时其表面贴附有滤光膜进行滤光。由此,该方案实质是使用同时集成了成像功能和滤光片滤光功能的成像透镜10132,成像透镜10132固定在支架10134的台阶面上。
基于上述成像模组中光源模块和接收相机的方案,本发明还提供了多种光源模块和接收相机的组合实施例,图21-图25是本发明实施例提供的多种成像模组的侧面或剖面示意图,下面参考该附图,对各种可行的组合实施例进行介绍。
在一可选实施例中,参考图21,该成像模组中,对于光源模块1010,可采用泛光照明模块1011,泛光照明模块1011包括第一光源10111,该第一光源10111出射红外波段光线。简言之,本实施例中光源模块1010采用红外泛光投射器。
对于接收相机1013,该实施例中进一步提供了多种组合方式:①成像透镜10132采用普通成像透镜搭配畸变矫正算法;滤光组件10133采用双通滤光片,成像芯片10131采用RGB sensor。②成像透镜10132仍采用普通成像透镜搭配畸变矫正算法;滤光组件10133采用IR CUT滤光片或电致变色滤光片;成像芯片10131仍采用RGB sensor。对于接收相机1013的第①和第②种组合方式,其中的成像透镜10132可替换为三段式畸变透镜,成像芯片10131可替换为RGB-IR sensor。
在一可选实施例中,参考图22,该成像模组中,对于光源模块1010,同样采用泛光照明模块1011,泛光照明模块1011包括第一光源10111,该第一光源10111出射红外波段光线。简言之,本实施例中光源模块1010采用红外泛光投射器。
对于接收相机1013,该实施例中成像透镜10132采用超表面透镜、衍射透镜、折射透镜或上述透镜的任意混合形态;滤光组件10133采用双通滤光片或IR CUT滤光片或电致变色滤光片;成像芯片10131采用RGB sensor或RGB-IR sensor。
在一可选实施例中,参考图23,该成像模组中,对于光源模块1010,采用泛光照明模块1011,泛光照明模块1011包括第一光源10111和第二光源10112,该第一光源10111出射红外波段光线,第二光源10112出射至少一种可见光波段光线或至少一种红外波段光线。简言之,本实施例中光源模块1010采用多光谱的泛光投射器。
该实施例中,对于接收相机1013,成像透镜10132仍可采用普通成像透镜搭配畸变矫正算法;滤光组件10133采用双通滤光片,成像芯片10131采用RGB sensor。在该实施例的其他实施方式中,接收相机中成像透镜10132可替换为三段式畸变透镜、超表面透镜、衍射透镜、折射透镜、或上述透镜的任意混合形态;滤光组件10133可替换为IR CUT滤光片或电致变色滤光片;成像芯片10131可替换为 RGB-IR sensor。
需要补充的是,如上三种实施例中,光源模块1010中除设置泛光照明模块1011外,还可增设结构光投射模块,此处不做限制。
在一可选实施例中,参考图24,该成像模组中,对于光源模块1010,其包括泛光照明模块1011和结构光投射模块1012,泛光照明模块1011中至少包括第一光源10111,该第一光源10111出射红外波段光线;结构光投射模块1012包括第三光源10121和调光元件,第三光源10121出射红外波段光线,调光元件对第三光源10121的出射光进行调制,以投射出结构光。
该实施例的其他实施方式中,结构光投射模块的调光元件具体可以是准直镜和衍射光学元件,也可以是准直衍射一体化光学元件,也可以是超表面透镜,还可以是上述三种可能的光学元件的合理组合。此外,结构光投射模块还可以与泛光投射模块集成在同一个镜筒或集成在同一个投射器内。
在一可选实施例中,参考图25,成像模组101还包括环境光传感器1015,环境光传感器1015用于检测环境的光照度;
主控模块102还用于在猫眼成像模式下且在环境的光照度低于预设阈值时控制光源模块投射泛光。
具体地,环境光传感器1015用于感应周围环境的光照度是否低于某一阈值,如上所述,此阈值依据成像芯片10131暗光成像质量、帧率、实际应用场景等因素决定,一般该阈值的设置范围为5-100 Lux。当周围环境光照度升高或者下降时,传递信号给主控模块102,主控模块102控制其他模块做出响应,比如仅当周围环境的光照度是否低于上述阈值时,控制泛光照明模块1011打开并向目标物体投射均匀泛光。
继续参考图25,该实施例的其他实施方式中,成像模组101中还可设置接近光传感器1016,接近光传感器1016用于在目标物体接近时产生触发信号;主控模块102用于根据触发信号,控制其他模块进行响应。具体地,主控模块102可以是根据触发信号,启动猫眼成像模式或生物识别成像模式。具体地,通过接近光传感器1016感知成像模组的工作距离范围内是否有目标物体,若有目标物体,则成像模组和其他模块可以作出响应。
此外,需要补充的是,针对上述多种实施例,成像模组101中结构光投射模块1012、泛光照明模块1011和接收相机1013可以作为独立的器件通过连接器连接于主板1014上;还可以直接贴于主板1014上,即结构光投射模块1012、泛光照明模块1011和接收相机1013的主板1014共用一个基板,采用共基板设计,相关实施例均在本发明保护范围中。
可选地,基于上述成像模组,本发明实施例提供的集成猫眼功能的成像系统的系统架构如下。图26是本发明实施例提供的另一种集成猫眼功能的成像系统的系统架构图,参考图26,该系统具体可由成像模组101、主控模块102、外置设备模块103、主板(图中未示出)组成,各模块与主板电性导通,通过主板电连接于其他模块。
成像模组101如前文所述方案,至少包含:泛光照明模块1011、接收相机1013,还可以包含结构光投射模块1012等。
下面参考图26,对本发明成像系统中主控模块102内部结构的方案进行介绍。
首先,可选地,主控模块102包括活体检测单元1021;活体检测单元1021用于利用活体检测模型,对泛光图像进行活体检测,或者,对泛光图像和环境图像进行活体检测,并在活体检测模型均输出肯定结果时,判定待测物体为活体;其中,环境图像包括至少一种红外波段和/或至少一种可见光波段的图像,泛光图像包括至少一种红外波段的图像。
进一步地,如前实施例中,光源模块1010还可用于投射结构光;接收相机1013还用于对结构光投射到目标物体后的反射光进行采集成像。在生物识别成像模式下,主控模块102还用于控制光源模块1010投射结构光,并控制接收相机1013采集结构光投射到目标物体后的反射光,对应获得结构光图像。
基于此,在一可选实施例中,主控模块102还可包括深度处理单元1022,深度处理单元1022用于根据结构光图像以及预设的参考结构光图像,计算获得一张深度图。活体检测单元1021还用于利用活体检测模型,还对结构光图像和/或深度图进行活体检测,并在活体检测模型均输出肯定结果时,判定待测物体为活体;其中,结构光图像包括一种红外波段的图像。
其中,对于主控模块102在生物识别成像模式下获得的环境图像、结构光图像和泛光图像,其均为二维图像,其中携带有目标物体的二维结构信息,根据该二维结构信息,可以对应识别出目标物体为人脸、手掌等活体目标物。而由于环境图像、结构光图像和泛光图像均仅携带二维结构信息,对于目标物体表面特征的表征有限。本实施例中进一步利用结构光图像转换为深度图,即可获得具有目标物表面的三维结构信息,进而在利用该深度图进行活体判断时,可以更准确判定其为人脸、手掌等活体目标物。再进一步地,同时利用上述二维图像和三维图像分别进行活体检测,可以增加活体检测的样本数量和种类,从而提高活体检测的准确度。
还可选地,在一实施例中,主控模块102还包括身份验证单元1023;身份验证单元1023用于利用身份验证模型,对泛光图像和环境图像中的至少一者进行身份验证,并在身份验证模型均输出肯定结果时,判定身份验证成功;其中,环境图像包括至少一种红外波段和/或至少一种可见光波段的图像,泛光图像包括至少一种红外波段的图像。
再如前实施例中所述,生物识别成像模式包括刷脸成像模式和刷掌成像模式;刷脸成像模式的成像目标为脸部图像,刷掌成像模式的成像目标为掌部图像。基于此,还可选地,主控模块102还包括图像检测单元1024;图像检测单元1024用于利用同一图像检测模型,在生物识别成像模式下确定图像中的目标物体,并根据目标物体确定生物识别成像模式为刷脸成像模式或刷掌成像模式。
对于如上各可选实施例中主控模块102的内部结构及其工作过程,下面参考图26进行详细介绍。
其中,如图26所示,主控模块102至少包含图像预处理单元1025、图像检测单元1024、活体检测单元1021、身份验证单元1023,还可以包含深度处理单元1022等其他模块。其中,可选地,图像预处理单元1025可以由ISP处理器实现;深度处理单元1022、图像检测单元1024、活体检测单元1021、身份验证单元1023可以由CPU处理器和NPU处理器实现。主控模块102可以由单个应用处理器芯片(Application Processor,AP)实现,也可以由应用处理器芯片和微控制器芯片(Microcontroller Unit,MCU)一起实现,还可以由应用处理器芯片、微控制器芯片和算法芯片一起实现。
主控模块102用于控制成像模组101在猫眼、刷脸、刷掌功能下采集图像;成像模组101将采集到的成像信息和图像传输至主控模块102进行后续处理;主控模块102再控制外置设备模块103等模块进行响应,同时依据场景需要将信息和图像传输至上位机、用户终端、云端或外部等。主控模块102中,芯片均通过焊接的方式固定于主板上,与主板电性导通,通过主板电连接于其他模块。
可选地,为了使用户能够以多种方式进行开锁等操作,如刷脸开锁、掌静脉开锁、指纹开锁、密码开锁等,系统可以响应于多种唤醒场景,如用户靠近门锁、工作距离范围内检测到目标物体、用户门前逗留、触摸触控面板、触摸显示屏、手机远程wifi信号唤醒等,并结合成像系统的控制和处理实现响应。
可选地,在一些实施例中,上述系统还可以包括外置设备模块103,包含机械门锁、显示屏、触控面板、扬声器、电容麦克风等,用于信号和信息的响应、展示及输出。
可选地,在一些实施例中,上述系统还可以包括主板,用于承载以上所有模块。
可选地,在一些实施例中,上述系统还可以包括接口模块,包含所有接口,用于模块间的通信。主控模块102通过MIPI接口和IIC接口、USB接口、UART串行通信接口、MIPI-DSI接口、SPI接口等接口与成像模组101、外置设备模块103等模块连接。接口模块还可以设置DC插座、RJ45网口等。接口模块同样通过焊接的方式固定于主板上,与主板电性导通,通过主板电连接于其他模块。
可选地,在一些实施例中,上述系统还可以包括无线模块,无线模块包含WIFI、蓝牙、4G、5G等,用于网络连接和通讯。
可选地,在一些实施例中,上述系统还可以包括供电模块,用于为所有模块供电。
可选地,在一些实施例中,上述系统还可以包括存储模块,例如包含DDR、Flash存储器,用于存储各种类型的数据。
可选地,在一些实施例中,上述系统还可以包括安全模块,用于监控系统安全。
可选地,在一些实施例中,上述系统可以使成像模组101作为独立的器件通过连接器连接于主板上,同时主控模块102直接焊接在主板上;也可以使成像模组101、主控模块102共用一个基板;还可以使成像模组101、主控模块102、系统中其他模块全部共用一个基板,进一步采用共基板设计,相关实施例均在本发明保护范围中。
图27是本发明实施例提供的一种集成猫眼功能的成像系统的工作流程图,下面参考图2、图3、图19和图27,对本发明实施例提供的集成猫眼功能的成像系统的工作流程以及上述的猫眼功能、刷脸功能和刷掌功能下的工作方案进行介绍。
该集成猫眼功能的成像系统的工作流程为:当发生上述多种唤醒场景之一时,如用户靠近门锁时,门锁被唤醒,系统上电。接下来,可选地,在某些场景下,基于上位机发出的开启猫眼功能指令,成像系统开启猫眼功能。或者,可选地,在某些场景下,基于上位机发出的开启刷脸/刷掌功能指令,成像系统开启刷脸或刷掌功能。
猫眼功能下的工作方案为:成像系统开启猫眼功能后,主控模块102可选地控制成像模组101中光源模块1010、接收相机1013、环境光传感器1015中的至少一者开始工作。当环境光传感器1015感应到周围环境光照度低于上述阈值时,传递信号给主控模块102,主控模块102控制光源模块1010的泛光照明模块1011打开并向目标物体投射均匀泛光;当环境光传感器1015感应到周围环境光照度不低于上述阈值时,传递信号给主控模块102,主控模块102控制光源模块的泛光照明模块1011关闭,仅周围环境中的环境光投射至目标物体。泛光照明模块1011通常采用红外光泛光补光,可选地,还可以采用多光谱泛光补光。泛光照明模块1011投射出的均匀泛光,或周围环境中的环境光投射至目标物体后,经目标物体反射后,经成像透镜10132聚焦在成像芯片10131上成像,成像模组101实时抓拍当前图像。若周围环境光照度不低于上述阈值时,则成像芯片10131输出环境光下目标物体的原始可见光图;若周围环境光照度低于上述阈值时,则成像芯片10131输出泛光照明下目标物体的原始泛光红外图。可选地,若泛光照明模块为多光谱泛光补光,则成像芯片10131输出泛光照明下目标物体的原始可见光图和/或原始泛光红外图。其中图像可以是静态图像,即单帧画面,也可以是视频图像。成像芯片10131再将成像信息和图像发送至主控模块102进行后续处理。
接下来,可选地,采集的图像经过主控模块102的图像预处理单元1025进行去噪、色彩还原等处理。接下来,可选地,主控模块102控制外置设备模块103等进行响应;通过接口连接显示屏、触控面板、扬声器、电容麦等外置设备,并控制外置设备进行响应,例如控制显示屏显示画面、控制扬声器播放声音等;同时,可选地,依据场景需要将信息和图像传输至上位机、用户终端、云端或外部等。最终实现实时监控画面、实时视频对讲、远程监控画面、录像回看等功能。
可选地,系统处于猫眼功能时,若在某些场景下,接收到上位机发出的开启刷脸或刷掌功能指令,则系统可以切换到刷脸或刷掌功能。
刷脸或刷掌功能下的工作方案为:成像系统开启刷脸或刷掌功能后,主控模块102可选地控制成像模组101中光源模块1010、接收相机1013的至少一者开始工作。主控模块102控制成像模组101中光源模块1010的泛光照明模块1011打开并向目标人脸或手掌投射均匀泛光。泛光照明模块1011通常采用红外光泛光补光,可选地,还可以采用多光谱泛光补光。可选地,若光源模块1010中还有结构光投射模块1012,则主控模块102控制结构光投射模块1012和泛光照明模块1011间隔打开并向目标人脸或手掌投射光束。泛光照明模块1011发出的光经目标人脸或手掌反射后,经成像透镜10132聚焦在成像芯片10131上成像,成像芯片10131输出带人脸或手掌信息的原始泛光红外图。可选地,若泛光照明模块1011为多光谱泛光补光,则成像芯片10131输出带人脸或手掌信息的原始泛光红外图和/或原始可见光图。可选地,若光源模块1010中还有结构光投射模块1012,则结构光投射模块1012发出的光经目标人脸或手掌反射后,经成像透镜10132聚焦在成像芯片10131上成像,成像芯片10131输出带人脸或手掌信息的原始散斑红外图。成像芯片10131再将成像信息和图像发送至主控模块102进行后续处理。
接下来,可选地,原始泛光红外图经主控模块102中的图像预处理单元1025进行去噪、校正、色彩还原等处理,得到目标泛光红外图。可选地,若泛光照明模块1011为多光谱泛光补光,则原始泛光红外图和/或原始可见光图经主控模块102中的图像预处理单元1025进行去噪、校正、色彩还原等处理,得到目标泛光红外图和/或目标彩色图。同时,可选地,若光源模块中还有结构光投射模块,则原始散斑红外图经主控模块102中的图像预处理单元1025进行去噪、校正、色彩还原等处理,得到目标散斑红外图。进一步,可选地,仅在刷脸功能下,主控模块102中的深度处理单元1022利用在系统中保存的某一距离的人脸的参考图,依据三角形计算原理和目标散斑红外图得到目标深度图。
接下来,可选地,将得到的原始图或目标图输出至图像检测单元1024,与系统保存的人脸或手掌检测模型进行比对,检测图中是否有人脸或手掌。此处人脸检测模型和手掌检测模型一般为两个不同的模型。若检测到人脸或手掌,可选地,将得到的原始图或目标图进行裁剪等图像处理。
接下来,可选地,将得到的原始图或目标图(一般为目标泛光红外图)输出至活体检测单元1021进行活体检测,将得到的原始图或目标图与系统保存的人脸或手掌活体检测模型进行比对;若判定为假人,则重新获取图像进行下一轮活体检测,或超出检测时间后系统停止采图等待下一次成像指令;若判定为活体,则进行下一步身份验证。可选地,若泛光照明模块1011为多光谱泛光补光,则还可以将得到的目标彩色图输出至活体检测单元1021进行活体检测,从而增加活体检测的样本数量和种类,提高活体检测的准确度。可选地,若光源模块1010中还有结构光投射模块1012,还可以将得到的目标散斑红外图和/或目标深度图输出至活体检测单元1021进行活体检测,从而进一步增加活体检测的样本数量和种类,提高活体检测的准确度。
接下来,可选地,主控模块102中将获得的原始图或目标图(一般为人脸目标泛光红外图或手掌目标泛光红外图)输出至身份验证单元1023进行身份验证。从上述图像中提取人脸或手掌特征信息,此处的手掌特征信息包含手掌的掌纹和掌静脉信息;将特征信息与系统保存的人脸或手掌的标准认证模型进行比对和匹配;若匹配失败,则提示认证失败,重新获取图片进行下一轮的检测,超出检测时间后系统停止采图,等待下一次成像指令;若匹配成功,则认证成功(身份验证与活体检测所采用的图片并不一定完全相同)。可选地,若泛光照明模块为多光谱泛光补光,则身份验证单元1023还可以将获得的人脸目标彩色图、或手掌目标彩色图用于上述身份验证流程,从而增加身份验证的样本数量和种类,提高身份验证的准确度。认证成功后,可选地,主控模块102再控制外置设备模块103等进行响应,如通过接口连接机械门锁,驱动机械门锁电机转动,实现开锁。同时,可选地,依据场景需要将信息和图像传输至上位机、用户终端、云端或外部等。
可选地,系统处于刷脸或刷掌功能时,若在某些场景下,接收到上位机发出的开启猫眼功能指令,则系统可以切换到猫眼功能。
接下来,针对上述集成猫眼功能的成像系统、工作流程及方案,本发明还提供以下多种软件处理方案。
首先,可选地,成像系统中主控模块可以采用分帧和/或变帧处理方案。
图28和图29是本发明实施例提供的两种集成猫眼功能的成像系统的工作示意图,此处将相机的图像帧率假定为30fps,即1s输出30帧图像,第一图像采集周期和第二图像采集周期示例均包括6帧图像,来解释说明分帧和变帧的具体处理方式。参考图28,主控模块102用于执行多个第一图像采集周期T1,且在任意一个第一图像采集周期T1中,按照第一预设时间比例交替执行猫眼成像模式和生物识别成像模式。
进一步地,参考图29,主控模块102还用于在根据生物识别成像模式下获得的结构光图像或泛光图像中识别到目标物体后,执行多个第二图像采集周期T2,且在任意一个第二图像采集周期T2中,按照第二预设时间比例交替执行猫眼成像模式和生物识别成像模式;其中,在第二预设时间比例下生物识别成像模式在第二图像采集周期T2中的时长,大于在第一预设时间比例下生物识别成像模式在第一图像采集周期T1中的时长。
再进一步地,主控模块102还用于在执行任意一个第一图像采集周期之前,确定获取到预设唤醒信号。
下面参考图28和图29,对本发明实施例的集成猫眼功能的成像系统的具体工作过程进行介绍。
首先,如图28所示,主控模块102按照第一预设时间比例交替执行猫眼成像模式和生物识别成像模式,即表示该成像系统通过分帧的模式交替实现猫眼功能和刷脸或刷掌功能。如图28和图29所示,主控模块102由执行第一图像采集周期转换为执行第二图像采集周期,则实质是表示该成像系统通过变帧的模式交替实现猫眼功能和刷脸或刷掌功能。
成像系统中主控模块的分帧和变帧处理方案如下。主控模块102从成像模组101采集到成像图像后,对多帧图像进行分帧,即部分图像输出帧工作在猫眼成像模式,部分图像输出帧工作在生物识别成像模式;并且可选地,可以依据场景需要,通过主控模块102控制提升工作在生物识别成像模式的图像输出帧的数量,从而实现分帧和变帧处理。具体地,如图28所示,在1s时间内,主控模块102控制接收相机1013,间隔输出5帧工作在猫眼成像模式,1帧工作在生物识别成像模式,生物识别成像模式在第一图像采集周期中的时间占比为1/6,如此将图像输出帧分用途进行处理。此30帧图像中,工作在猫眼成像模式的图像共25帧,可以称为第一组帧;工作在生物识别成像模式交替输出的图像共5帧,可以称为第二组帧;第一组帧和第二组帧实现分帧。接下来,可选地,可以依据场景需要,通过主控模块102再次控制接收相机1013,对这30帧输出图像进行重新分配,即对工作在生物识别成像模式的图像进行变帧处理。如图29所示,在1s时间内,接收相机1013间隔输出4帧工作在生物识别成像模式,2帧工作在猫眼成像模式,生物识别成像模式在第二图像采集周期中的时间占比为1/3。此30帧图像中,工作在猫眼成像模式的图像共20帧,可以称为第三组帧;工作在生物识别成像模式的图像共10帧,可以称为第四组帧;通过调整分帧数量,使第一组帧变为第三组帧,同时使第二组帧变为第四组帧,实现变帧。
基于分帧和变帧的控制,可以将不同帧工作在不同模式,还可以对不同帧图像进行不同的后续处理,其工作流程为:
当发生上述多种唤醒场景之一时,如用户靠近门锁时,门锁被唤醒,系统上电。接下来,可选地,在某些场景下,基于上位机发出的指令,主控模块102控制成像模组101中光源模块、和/或接收相机1013开始工作。此时,主控模块102开启上述第一组帧和第二组帧的分帧处理,其中第一组帧工作在猫眼成像模式,第二组帧工作在生物识别成像模式。系统可以保持在第一组帧和第二组帧过程中成像模组采集的图像始终用于猫眼显示;同时,若在当前帧为第一组帧时,收到上位机发出的刷脸或刷掌指令,则在当前第一组帧后紧挨着的第二组帧处开始刷脸或刷掌;同时,若在当前帧为第二组帧时,收到上位机发出的刷脸或刷掌指令,则在当前第二组帧处开始刷脸或刷掌,或者,在下一图像采集周期中的第二组帧处开始刷脸或刷掌。由此使系统在保持猫眼功能的同时,也可以进行刷脸或刷掌。可选地,依据场景需要,主控模块可以控制改变分帧数量,切换为上述第三组帧和第四组帧的变帧处理,其中第三组帧工作在猫眼成像模式,第四组帧工作在生物识别成像模式。可选地,主控模块还可以控制第二组帧和第四组帧图像经过图像预处理、或不经过图像预处理直接输出至后续处理模块。由此,实现在成像系统中,通过成像模组101的同一个接收相机1013实现猫眼、刷脸、和/或刷掌功能,且系统在保持猫眼功能的同时,也可以进行刷脸或刷掌。
相比于前文所述的集成猫眼的成像系统方案,此方案的优点如下:第一,此方案可以通过分帧处理,使系统在保持猫眼功能的同时,也可以进行刷脸或刷掌。第二,此方案可以通过分帧处理,使系统输出的图像效果更稳定,没有闪烁、卡顿、图像乱帧、部分帧图像由彩色变黑白等现象。第三,此方案可以通过分帧和/或变帧处理,控制对不同帧图像进行不同的图像处理,简化部分图像处理流程,从而进一步提高猫眼、刷脸、刷掌功能的响应速度。第四,此方案可以通过变帧处理,依据场景需要,提高刷脸或刷掌功能的分帧数量,提高刷脸或刷掌的识别速度,从而进一步提高刷脸、刷掌功能的响应速度。第五,此方案中成像系统可以选择不采用基于物理结构切换的滤光片,从而使得系统在猫眼功能与刷脸或刷掌功能切换时切换效率更快,提高猫眼、刷脸、刷掌功能的响应速度。第六,此方案中成像系统可以选择不采用基于物理结构切换的滤光片,进一步避免由于滤光片物理结构切换较慢或卡顿所导致的图像乱帧、部分帧图像由彩色变黑白等现象,使系统出图顺畅无卡顿,且用户对功能的切换无感知。
接下来,可选地,成像系统可以针对主控模块的图像检测、活体检测和身份验证流程进行改进。
可选地,活体检测时可以采用基于多光谱图像的多模态活体检测。具体地,在上述活体检测流程的基础上,进一步将猫眼功能下采集的原始可见光图,经过图像预处理后用于刷脸/刷掌功能下的活体检测。以上述分帧和变帧方案为例,参考图27,若采用此方案,则可以选择获取第二组帧时,在上述活体检测流程基础上,进一步将第一组帧内采集得到的猫眼功能下的原始可见光图进行图像预处理,再与系统保存的活体检测模型进行比对,输出活体检测结果。此方案的优点如下:第一,由于猫眼功能的FOV较大,采用猫眼功能下采集的原始可见光图可以进一步增加活体检测的样本数量和种类,提高活体检测的准确度。第二,原始可见光图经过图像预处理后进行活体检测,可以抵御红外图的攻击;而原始泛光图经过图像预处理后进行活体检测,可以抵御彩色图的攻击;两者同时使用可以进一步提高活体检测的准确度。此实施例对成像系统在猫眼功能下使用环境光或者多光谱泛光补光、成像系统是否使用分帧和变帧方案不做限制。
可选地,身份验证时也可以采用基于多光谱图像的多模态身份验证。具体地,可以单独将猫眼功能下采集的原始可见光图,经过图像预处理后用于刷脸/刷掌功能下的身份验证,或者,在前文所述身份验证流程的基础上,补充猫眼功能下采集的原始可见光图,经过图像预处理后,也用于刷脸/刷掌功能下的身份验证。以上述分帧和变帧方案为例,参考图27,若采用此方案,则可以选择在获取第二组帧时,先将第一组帧内采集得到的猫眼功能下的原始可见光图进行图像预处理,再从上述图像中提取人脸或手掌特征信息,接下来将基于猫眼功能下采集的原始可见光图所获得的特征信息也与系统保存的人脸或手掌的标准认证模型进行比对和匹配,输出身份验证结果。由此,进一步增加身份验证的样本数量和种类,提高身份验证的准确度。此实施例同样对成像系统在猫眼功能下使用环境光或者多光谱泛光补光、成像系统是否使用分帧和变帧方案不做限制。
可选地,图像检测时可以采用同一个图像检测模型,而不再区分人脸检测模型和手掌检测模型。通常,在图像检测时,主控模块得到图像后,输出至图像检测单元1024。图像检测单元1024先将上述图像与人脸检测模型进行比对,再与手掌检测模型进行比对,或者,先与手掌检测模型进行比对,再与人脸检测模型进行比对,才能获得检测结果。而本方案中采用同一个检测模型后,上述图像只与此检测模型进行一次比对,即可检测出图中是否有人脸或手掌,从而节省内存,同时进一步提高刷脸、刷掌功能的响应速度。
综上,本发明实施例提供的一种集成猫眼功能的成像系统,在集成猫眼功能的同时,还具有刷脸功能、刷掌功能中的一种或两种。本发明的成像系统中,基于成像模组的结构件设计,将成像模组的图像采集模块、泛光图像采集模块、猫眼模块合为一个单元,将猫眼、刷脸和/或刷掌功能集成在同一个相机中。
同时,本发明的成像系统中使成像模组的结构光投射模块、泛光照明模块既可以为两个独立单元,也可以合为一个单元,由此既能够丰富成像系统的功能,使系统集成猫眼功能的同时,还具有刷脸功能、刷掌功能中的一种或两种,又能够减少光学元件,降低物料成本和组装难度,使小型集成化成为可能。
另外,本发明的成像系统可选地以泛光图像、环境图像、结构光图像以及根据结构光图像计算获得深度图像作为检测样本进行活体检测,其中,泛光图像、环境图像、结构光图像均可以包括至少一种红外波段图像,泛光图像、环境图像还可以包括至少一种可见光波段的图像,由此实现了活体检测的多光谱图像样本,有效增加了活体检测的样本种类和数量,从而可以提高活体检测的准确度。同理,在进行身份验证过程中,同样是以泛光图像、环境图像作为样本,同样能够实现身份验证的多光谱图像样本,有效增加身份验证的样本种类和数量,从而提高身份验证的准确度。
再者,本发明的成像系统可选地利用同一图像检测模型对图像中的物体进行识别,根据识别确定的手掌或人脸自动执行对应的刷掌功能或刷脸功能,在进行身份验证前实现了自动识别验证物的操作,使得系统更加智能化,能够更好地改善用户使用体验。同时,采用一个图像检测模型识别手掌或人脸两种不同类型的验证物,可直接确定识别物进行对应的身份验证操作,无需依次进行手掌识别和人脸识别,简化了身份验证的步骤,加快了用户验证流程,同样改善了用户的使用体验。
最后,本发明的成像系统可选地基于主控模块对图像的分帧和变帧处理,使得系统在猫眼功能与刷脸或刷掌功能切换时切换效率更快、响应速度更快、系统出图顺畅无卡顿、用户对功能的切换无感知。同时此方案无需在猫眼的每一帧图像输出时进行人脸或手掌识别,节省了计算资源。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整、相互结合和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (14)

1.一种集成猫眼功能的成像系统,其特征在于,包括成像模组和主控模块:所述成像模组包括光源模块和一个接收相机;
所述光源模块用于至少投射泛光;
所述接收相机用于对所述泛光投射到目标物体后的反射光或环境光下目标物体的反射光进行采集成像;
所述主控模块分别与所述光源模块和所述接收相机电连接;
所述成像系统具有猫眼成像模式和生物识别成像模式;
在所述猫眼成像模式下,所述主控模块用于控制所述接收相机采集环境光下目标物体的反射光获得环境图像,或者,控制所述光源模块投射泛光并控制所述接收相机采集所述泛光投射到目标物体后的反射光获得环境图像;
在所述生物识别成像模式下,所述主控模块用于控制所述光源模块至少投射所述泛光,并控制所述接收相机至少采集所述泛光投射到目标物体后的反射光,对应获得泛光图像;其中,所述环境图像、所述泛光图像满足如下条件:FOV1≥FOV2;其中,FOV1为所述接收相机采集所述环境图像的视场角,FOV2为所述接收相机采集所述泛光图像的视场角;
所述主控模块还用于控制所述环境图像输出以进行显示;
所述主控模块还用于根据所述泛光图像进行生物识别;
所述生物识别成像模式包括刷脸成像模式和刷掌成像模式;所述刷脸成像模式的成像目标为脸部图像,所述刷掌成像模式的成像目标为掌部图像;
所述主控模块还包括身份验证单元;
所述身份验证单元用于利用身份验证模型,对所述泛光图像和所述环境图像中的至少一者进行身份验证,并在所述身份验证模型均输出肯定结果时,判定身份验证成功;其中,所述环境图像包括至少一种红外波段和/或至少一种可见光波段的图像,所述泛光图像包括至少一种红外波段的图像。
2.根据权利要求1所述的成像系统,其特征在于,
所述光源模块还用于投射结构光;
所述接收相机还用于对所述结构光投射到目标物体后的反射光进行采集成像;
在所述生物识别成像模式下,所述主控模块还用于控制所述光源模块投射所述结构光,并控制所述接收相机采集所述结构光投射到目标物体后的反射光,对应获得结构光图像;
所述环境图像和所述结构光图像满足如下条件:FOV1≥FOV3;其中,FOV3为所述接收相机采集所述结构光图像的视场角;
所述主控模块还用于根据所述结构光图像和所述泛光图像进行生物识别。
3.根据权利要求1所述的成像系统,其特征在于,所述接收相机包括成像芯片、成像透镜和滤光组件,所述成像透镜和所述滤光组件分别位于所述成像芯片的受光路径上;
在所述猫眼成像模式下,所述滤光组件至少透射可见光波段光线或至少透射红外波段光线;
在所述生物识别成像模式下,所述滤光组件至少透射红外波段光线;
所述滤光组件包括第一滤光片和第二滤光片和切换机构;所述第一滤光片透射红外波段光线,所述第二滤光片透射红外波段和可见光波段光线;所述主控模块用于在所述猫眼成像模式下控制所述切换机构驱动所述第二滤光片移动至所述成像芯片的受光路径上,在所述生物识别成像模式下控制所述切换机构驱动所述第一滤光片移动至所述成像芯片的受光路径上;
或者,所述滤光组件包括第一滤光片和第二滤光片和切换机构;所述第一滤光片透射红外波段光线,所述第二滤光片透射可见光波段;所述主控模块用于在所述猫眼成像模式下且在环境光强高于预设光强阈值时控制所述切换机构驱动所述第二滤光片移动至所述成像芯片的受光路径上,在所述猫眼成像模式下且在环境光强低于预设光强阈值时控制所述切换机构驱动所述第一滤光片移动至所述成像芯片的受光路径上,在所述生物识别成像模式下控制所述切换机构驱动所述第一滤光片移动至所述成像芯片的受光路径上;
或者,所述滤光组件包括第一滤光片;所述第一滤光片为电致变色滤光片,所述主控模块用于在所述猫眼成像模式下控制所述第一滤光片调节为透射可见光波段光线或红外波段光线,在所述生物识别成像模式下控制所述第一滤光片调节为透射红外波段光线;
或者,所述滤光组件包括第一滤光片;所述第一滤光片透射红外波段和可见光波段光线。
4.根据权利要求2所述的成像系统,其特征在于,所述刷掌成像模式下的图像输出视场角≤155°,所述刷脸成像模式下的图像输出视场角≤120°;
所述接收相机包括成像透镜,所述成像透镜满足:
FOV≤155°时,最大畸变值小于或等于70%;
FOV≤120°时,最大畸变值小于或等于5%;
在120°<FOV<155°时畸变值随成像像高变大的增量,大于在FOV<120°时畸变值随成像像高变大的增量。
5.根据权利要求2所述的成像系统,其特征在于,所述接收相机包括成像透镜,所述成像透镜包括折射透镜、超表面透镜和衍射透镜中的至少一种。
6.根据权利要求1所述的成像系统,其特征在于,所述光源模块包括泛光照明模块;所述泛光照明模块用于投射泛光;
所述泛光照明模块包括第一光源,所述第一光源用于出射红外波段光线,或者,所述泛光照明模块包括第一光源和第二光源,所述第一光源用于出射红外波段光线,第二光源用于出射至少一种可见光波段光线和/或至少一种红外波段光线,且所述第二光源出射的红外波段光线与所述第一光源出射的红外波段光线不同。
7.根据权利要求6所述的成像系统,其特征在于,所述光源模块还包括结构光投射模块,所述结构光投射模块用于投射结构光;
所述结构光投射模块包括第三光源,所述第三光源用于出射红外波段光线。
8.根据权利要求7所述的成像系统,其特征在于,所述泛光照明模块和所述结构光投射模块中还设置有调光元件,所述调光元件为准直衍射一体化光学元件,或者,所述调光元件为超表面透镜,或者,所述调光元件为准直镜和衍射光学元件的组合;
所述调光元件位于所述泛光照明模块和所述结构光投射模块中光源的出光侧,所述调光元件用于分别对所述泛光照明模块和所述结构光投射模块中光源的出射光进行调制,以对应投射出泛光和结构光。
9.根据权利要求1所述的成像系统,其特征在于,所述成像模组还包括环境光传感器,所述环境光传感器用于检测环境的光照度;所述主控模块还用于在所述猫眼成像模式下且在环境的光照度低于预设阈值时控制所述光源模块投射泛光;
和/或,所述成像模组还包括接近光传感器,所述接近光传感器用于在目标物体接近时产生触发信号;所述主控模块用于根据所述触发信号,启动所述猫眼成像模式或所述生物识别成像模式。
10.根据权利要求1所述的成像系统,其特征在于,所述主控模块包括活体检测单元;
所述活体检测单元用于利用活体检测模型,对所述泛光图像进行活体检测,或者,对所述泛光图像和所述环境图像进行活体检测,并在所述活体检测模型均输出肯定结果时,判定待测物体为活体;其中,所述环境图像包括至少一种红外波段和/或至少一种可见光波段的图像,所述泛光图像包括至少一种红外波段的图像。
11.根据权利要求10所述的成像系统,其特征在于,所述光源模块还用于投射结构光;
所述接收相机还用于对所述结构光投射到目标物体后的反射光进行采集成像;
在所述生物识别成像模式下,所述主控模块还用于控制所述光源模块投射所述结构光,并控制所述接收相机采集所述结构光投射到目标物体后的反射光,对应获得结构光图像;
所述主控模块还包括深度处理单元,所述深度处理单元用于根据所述结构光图像以及预设的参考结构光图像,计算获得一张深度图;
所述活体检测单元还用于利用活体检测模型,还对所述结构光图像和/或所述深度图进行活体检测,并在所述活体检测模型均输出肯定结果时,判定待测物体为活体;其中,所述结构光图像包括一种红外波段的图像。
12.根据权利要求1所述的成像系统,其特征在于,所述主控模块还包括图像检测单元;所述图像检测单元用于利用同一图像检测模型,在所述生物识别成像模式下确定图像中的目标物体,并根据所述目标物体确定所述生物识别成像模式为所述刷脸成像模式或所述刷掌成像模式。
13.根据权利要求1所述的成像系统,其特征在于,所述主控模块用于执行多个第一图像采集周期,且在任意一个所述第一图像采集周期中,按照第一预设时间比例交替执行所述猫眼成像模式和所述生物识别成像模式。
14.根据权利要求13所述的成像系统,其特征在于,所述主控模块还用于执行多个第二图像采集周期,且在任意一个所述第二图像采集周期中,按照第二预设时间比例交替执行所述猫眼成像模式和所述生物识别成像模式;其中,在所述第二预设时间比例下所述生物识别成像模式在所述第二图像采集周期中的时长,与在所述第一预设时间比例下所述生物识别成像模式在所述第一图像采集周期中的时长不同。
CN202410572068.0A 2024-05-10 2024-05-10 一种集成猫眼功能的成像系统 Active CN118154829B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410572068.0A CN118154829B (zh) 2024-05-10 2024-05-10 一种集成猫眼功能的成像系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410572068.0A CN118154829B (zh) 2024-05-10 2024-05-10 一种集成猫眼功能的成像系统

Publications (2)

Publication Number Publication Date
CN118154829A CN118154829A (zh) 2024-06-07
CN118154829B true CN118154829B (zh) 2024-07-19

Family

ID=91295254

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410572068.0A Active CN118154829B (zh) 2024-05-10 2024-05-10 一种集成猫眼功能的成像系统

Country Status (1)

Country Link
CN (1) CN118154829B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114495335A (zh) * 2022-02-21 2022-05-13 湖南智虹视界科技有限公司 一种集成猫眼的3d结构光人脸识别门锁及其识别方法
CN117452747A (zh) * 2023-12-21 2024-01-26 深圳市安思疆科技有限公司 一种3d结构光系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117809342A (zh) * 2023-12-30 2024-04-02 深圳阜时科技有限公司 生物特征识别模组及其控制方法、电子设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114495335A (zh) * 2022-02-21 2022-05-13 湖南智虹视界科技有限公司 一种集成猫眼的3d结构光人脸识别门锁及其识别方法
CN117452747A (zh) * 2023-12-21 2024-01-26 深圳市安思疆科技有限公司 一种3d结构光系统

Also Published As

Publication number Publication date
CN118154829A (zh) 2024-06-07

Similar Documents

Publication Publication Date Title
US11017191B2 (en) Accessory having a target generating structure for a mobile device
US11348217B2 (en) Projector, detection method thereof, and electronic device
US11361179B2 (en) Barcode reading system having a legacy mobile client function, a non-legacy mobile client function, and a relay function
CN109379454B (zh) 电子设备
US10853604B2 (en) Attachment for a mobile device for reading barcodes and capturing non-barcode images
CN109188711B (zh) 屏下光学系统、衍射光学元件的设计方法及电子设备
CN109143607B (zh) 补偿显示屏、屏下光学系统及电子设备
US10192086B2 (en) Barcode-reading enhancement system for a computing device that comprises a camera and an illumination system
US9858460B2 (en) Barcode-reading system having circuitry for generating a barcode read signal on a microphone input connector of a mobile device
US9922221B2 (en) Barcode-reading attachment for focusing a camera of a mobile device
CN109274789B (zh) 电子设备
CN115280751B (zh) 多光路成像技术和用于主动深度感测技术的共享发射器
US9710685B2 (en) Barcode-reading application for a mobile device with a high resolution color camera
US10430625B2 (en) Barcode reading accessory for a mobile device having a one-way mirror
CN109240021B (zh) 屏下光学系统及电子设备
CN111798798A (zh) 具有光学感测器的显示器及其光学感测模组
CN118154829B (zh) 一种集成猫眼功能的成像系统
CN110460757B (zh) 一种一体化的光谱摄像镜头及光谱相机
KR20130076273A (ko) 능동형 홍채영상 촬영장치
JP2004186721A (ja) カメラ
US20230030103A1 (en) Electronic apparatus
CN110868506A (zh) 图像处理方法和电子装置
CN115996307A (zh) 多摄摄像模组及其工作方法
JP2010041606A (ja) 撮像装置

Legal Events

Date Code Title Description
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant