[go: up one dir, main page]

CN104238732B - 侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体 - Google Patents

侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体 Download PDF

Info

Publication number
CN104238732B
CN104238732B CN201310289984.5A CN201310289984A CN104238732B CN 104238732 B CN104238732 B CN 104238732B CN 201310289984 A CN201310289984 A CN 201310289984A CN 104238732 B CN104238732 B CN 104238732B
Authority
CN
China
Prior art keywords
mouth
image
information
signal
designated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310289984.5A
Other languages
English (en)
Other versions
CN104238732A (zh
Inventor
林伯聪
方志恒
邹嘉骏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Utechzone Co Ltd
Original Assignee
Utechzone Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Utechzone Co Ltd filed Critical Utechzone Co Ltd
Publication of CN104238732A publication Critical patent/CN104238732A/zh
Application granted granted Critical
Publication of CN104238732B publication Critical patent/CN104238732B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B1/00Comparing elements, i.e. elements for effecting comparison directly or indirectly between a desired value and existing or anticipated values
    • G05B1/01Comparing elements, i.e. elements for effecting comparison directly or indirectly between a desired value and existing or anticipated values electric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/593Recognising seat occupancy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • G08B21/0476Cameras to detect unsafe condition, e.g. video cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Social Psychology (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Alarm Systems (AREA)

Abstract

一种侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体。该装置包含有一摄像单元以及一处理单元。该摄像单元连续拍摄并取得多数个影像。该处理单元经由该摄像单元取得多数个影像,并将该影像储存至一储存单元,其中,该储存单元另存有一预设信息,该处理单元包含有一影像去背模块、一影像撷取模块以及一比较器。其中该影像去背模块分别处理该多数个影像以撷取出脸部影像。其中该影像撷取模块侦测该脸部影像中鼻孔的位置预估一嘴部搜寻框并取得嘴部动作信息。其中该比较器比对该嘴部动作信息与该预设信息,若比对结果相符,则产生一指定讯号。本发明能传达脸部动作的复杂意涵且能向外发送讯息以寻求协助或提供信息。

Description

侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪 录媒体
技术领域
本发明关于一种侦测脸部动作以产生讯号的装置及其方法,尤指一种可经由侦测使用者的嘴部动作判断使用者所欲表达的意涵并产生对应讯号的装置及其方法。
背景技术
人类双手具有多个关节,可以做出多样性的动作,因此一般的机械或交通工具大多是设计为便于手动操作使用的键盘、方向盘、按钮、把手等,然而部分身障者无法使用大部分为手动操作而设计的器具,而不能利用工具解决日常生活上的问题。另一方面,即使是健全的使用者也可能有无法使用双手操作工具的情况,如双手提重物时难以推开门把,为保行车中的安全避免使用行动电话,或遭受挟持或胁迫时需以较不明显的方式向外求援等种种情况。是以,如何以双手以外的动作与电子设备等工具进行互动,许多业者正殚精竭虑地构思解决之道。
相较于双手,人的脸部也可由意志控制而有多种变化,虽然脸部的动作不如双手可直接对工具进行推、按、拉等接触式的互动,然而,随着影像处理技术的发展,现已开发出藉由分析脸部动作的影像藉以产生讯号来操作电子装置等工具的技术。举例而言,中国台湾专利申请案公告号565754揭示了一种眼控辅助驾驶系统,用侦测眼球移动的方式来操控辅助驾驶系统,而使身障者可透过简便的操作方式驾驶电动轮椅等工具。该系统可以有效地撷取眼睛的影像,准确地运算出屏幕上正确的坐标位置,并藉由眨眼动作对该系统发送出讯号以控制车辆的行驶。然而,眼部毕竟不如手部的动作灵活,其运动方式仅有单调的上下左右移动或眼睛的开阖,能表达的意涵相当有限,当使用者在事故中受困时,或遭到挟持等状况,需要以简便且难以察觉的脸部动作来向外发送求援的讯号,就先前技术而言讯号仅能产生于眼控辅助驾驶系统之中,显然无法传递如此复杂的讯息。现有的侦测脸部动作以产生讯号的技术,有难以表达复杂意涵且发送讯息不便的问题,对此,先前技术并未提供有效的克服方式。
发明内容
本发明目的,在于提供一种能传达脸部动作的复杂意涵且能向外发送讯息以寻求协助或提供信息的侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体。
为解决上述问题,本发明提供一种侦测脸部动作以产生讯号的装置,包含有一摄像单元、以及一处理单元。该摄像单元连续拍摄并取得多数个影像。该处理单元经由该摄像单元取得该多数个影像,并将该影像储存至一储存单元,其中该储存单元另存有一预设信息,该处理单元包含有一影像去背模块、一影像撷取模块以及一比较器。其中该影像去背模块分别处理该多数个影像以撷取出脸部影像。其中该影像撷取模块侦测该脸部影像中鼻孔的位置,预估一嘴部搜寻框,并由该嘴部搜寻框取得嘴部动作信息。其中该比较器比对该嘴部动作信息与该预设信息,若比对结果相符,则该比较器产生一指定讯号。
进一步地,该嘴部动作信息依据该脸部影像中嘴部张开或闭合的动作排列组合而形成一编码序列,该预设信息为预存于该储存单元中的预设编码序列。
进一步地,该嘴部动作信息为一由多数个嘴型编码排列组合而成的嘴型编码序列,该预设信息为预存于该储存单元中的一预设嘴型编码序列。
进一步地,所述侦测脸部动作以产生讯号的装置更进一步包含有一讯号发送单元,接受该比较器产生的指定讯号并将该指定讯号发送至一指定装置。
进一步地,该讯号发送单元为移动通讯模块或Wi-Fi模块,且该指定装置为基地台、汽车服务中心、保全中心或紧急联络人电话。
进一步地,所述侦测脸部动作以产生讯号的装置更进一步包含有一于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送一位置信息至该指定装置的GPS卫星定位模块。
进一步地,所述侦测脸部动作以产生讯号的装置更进一步包含有一用以纪录一行车信息并于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送该行车信息至该指定装置的行车诊断系统(On-Board Diagnostics, OBD) 。
进一步地,所述侦测脸部动作以产生讯号的装置更进一步包含有一于该讯号发送单元发送该指定讯号后记录一该交通工具内部及/或外部录像的影像纪录器。
进一步地,所述侦测脸部动作以产生讯号的装置更进一步包含有一警报装置,且该处理单元包含有一眨眼计算模块,该警报装置于该处理单元的眨眼计算模块计算出该脸部影像的一眨眼次数且该眨眼次数于预定时间内超过一第一门坎值时发出警示。
进一步地,所述侦测脸部动作以产生讯号的装置更进一步包含有一警报装置,且该处理单元包含有一脸部转动计算模块,该警报装置于该处理单元的脸部转动计算模块计算出该脸部影像的一脸部转动角度且该脸部转动角度于预定时间内超过一第二门坎值时发出警示。
本发明另一目的,在于提供一种侦测脸部动作以产生讯号的方法,其执行于一电子装置中,该方法包含有以下步骤:连续拍摄多数个影像,并由该多数个影像中辨识出一脸部影像;由该脸部影像中辨识出一鼻孔定位点;基于该鼻孔定位点设定一嘴部区域;记录一预定时间内该嘴部区域的影像获得一嘴部动作信息;以及比对该嘴部动作信息与至少一预设信息,当该嘴部动作信息符合该预设信息时,产生对应于该预设信息的一指定讯号。
进一步地,基于该鼻孔定位点设定一嘴部区域的步骤包含:基于该鼻孔定位点设定一嘴部搜寻框,并调整该嘴部搜寻框内的对比而获得一加强影像;对该加强影像进行一去杂点处理,而获得一去杂点影像;对该去杂点影像进行一边缘锐利化处理,而获得一锐化影像;对该锐化影像进行一二值化处理,而获得一二值化影像;以及再次对该二值化影像进行边缘锐利化处理,并于该嘴部搜寻框取出一嘴部区域。
进一步地,记录一预定时间内该嘴部区域的影像获得一嘴部动作信息的步骤包含:由该嘴部区域中取出多数个嘴部特征,所述嘴部特征包含有一上唇部位,以及一下唇部位;将该上唇部位与该下唇部位的间距与一间隙值进行比较;若间距大于该间隙值,则获得一张开动作影像;若间距小于该间隙值,则获得一闭合动作影像;依据该闭合动作影像或该张开动作影像产生一编码,并将该编码存入一编码序列中的第N栏;判断是否达到该预定时间;以及将该编码序列存入该嘴部动作信息。
进一步地,记录一预定时间内该嘴部区域的影像获得一嘴部动作信息的步骤包含:将该嘴部区域的影像与多数个样板影像进行比对;若比对结果相符,则产生一嘴型编码,并将该嘴型编码存入一编码序列中的第N栏;判断是否达到该预定时间;将该编码序列存入该嘴部动作信息。
进一步地,所述方法更进一步包含有以下步骤:透过一讯号发送单元发送该指定讯号至一指定装置;其中该讯号发送单元为装设于一交通工具内的移动通讯模块或Wi-Fi模块,且该指定装置为基地台、汽车服务中心、保全中心或紧急联络人电话。
进一步地,所述方法更进一步提供一于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送一位置信息至该指定装置的一GPS卫星定位模块。
进一步地,所述方法更进一步提供一用以纪录一行车信息并于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送该行车信息至该指定装置的行车诊断系统(On-Board Diagnostics, OBD) 。
进一步地,所述方法更进一步提供一于该讯号发送单元发送该指定讯号后记录该交通工具内部及/或外部录像的一影像纪录器。
本发明再一目的,提供一种计算机可读取纪录媒体,储存有计算机可执行的指令,其包含有可在一电子装置上运行以侦测使用者脸部动作以产生讯号的方法,该方法包含有:连续拍摄多数个影像,并由该多数个影像中辨识出一脸部影像;由该脸部影像中辨识出一鼻孔定位点;基于该鼻孔定位点设定一嘴部区域;记录一预定时间内该嘴部区域的影像获得一嘴部动作信息;以及比对该嘴部动作信息与至少一预设信息,当该嘴部动作信息符合该预设信息时,产生对应于该预设信息的一指定讯号。
本发明相较于先前技术至少具有以下优点:
1. 本发明侦测脸部动作以产生讯号的装置可藉由使用者的脸部影像中取得嘴部动作信息,并将该嘴部动作信息与储存单元中预存的预设信息进行比对,若比对结果相符,则藉由讯号发送单元将对应于该预设信息的指定讯号发送予指定装置,如使用者因意外事故受困或被挟持而必须以简易且难以察觉的方式向外求援时,可达到藉由侦测使用者嘴部动作以产生求救讯号的功效。
2. 当侦测脸部动作以产生讯号的装置装设于汽车等交通工具内,且该讯号发送单元将指定讯号发送至指定装置时,该GPS卫星定位模块及行车监控系统可一并发送出使用者目前所在地的位置信息及行车信息,使位于指定装置端的人员可快速地且详细地掌握使用者目前的状况。
3. 本发明可藉由侦测使用者的眼部开闭信息、脸部转动信息并比对门坎信息以得知使用者的注意力集中程度,应用在车辆中可防止驾驶分心,减低事故发生的可能。
附图说明
图1为本发明侦测脸部动作以产生讯号的装置的结构方块图。
图2为本发明处理单元的方块图。
图3为本发明侦测脸部动作以产生讯号的方法流程图。
图4为本发明取出该嘴部区域的方法流程图。
图5为本发明第一实施态样获得嘴部动作信息的方法流程图。
图6为本发明第二实施态样获得嘴部动作信息的方法流程图。
标号说明:
100 侦测脸部动作以产生讯号的装置;
10 摄像单元;
20 处理单元;
21 影像去背模块;
22 影像撷取模块;
23 比较器;
24 眨眼计算模块;
25 脸部转动计算模块;
30 储存单元;
40 讯号发送单元;
50 指定装置;
S110~S160 步骤。
具体实施方式
兹就本案结构特征暨操作方式,并配合图示说明,谨述于后,以提供审查参阅。再者,本发明中的图式仅为说明方便,这些图式及其比例非用以限制本发明范围。
关于本发明技术,请一并参照图1及图2,图1系本发明侦测脸部动作以产生讯号的装置的结构方块图,图2为本发明处理单元的方块图,如图所示:本发明提供一种侦测脸部动作以产生讯号的装置100,其可设置于多种电子设备中,例如设置在车内对驾驶员的脸部进行侦测,当驾驶员的脸部动作与预设的信息相符时,便产生相对应的讯号并将讯号发送给特定的装置。所述侦测脸部动作以产生讯号的装置100包含有一摄像单元10、一处理单元20、以及一储存单元30。
一摄像单元10,连续拍摄并取得多数个影像,该摄像单元10可为电荷耦合组件(Charge coupled device, CCD)镜头、互补式金属氧化物半导体(Complementary metaloxide semiconductor transistors, CMOS)镜头、行车纪录器、照相机等装置。该处理单元20经由该摄像单元10取得该多数个影像并将该多数个影像储存至一储存单元30中,并对上述多数个影像进行影像处理程序。该储存单元30用以储存该摄像单元10所拍摄的多数个影像。该储存单元30为硬盘等用于储存程序或数据的电子式储存装置,并另存有一预设信息,该预设信息为预存于该储存单元30中的编码序列,其中每一个编码代表一单位时间内使用者的一种嘴部动作,故该预设信息代表特定的嘴型动作或是唇语等信息。
该处理单元20包含有,一影像去背模块21,一影像撷取模块22,以及一比较器23。该影像去背模块21用以辨识影像中的人脸部分,藉以撷取出使用者的脸部影像并去除影像中的背景等不需要的信息,藉由减少影像的范围而提高辨识的效能,由于人像辨识技术已为本发明所属领域中技术人员所熟习的技术,在此并不多加赘述。该影像撷取模块22具有光源补正、对比调整、锐利化、去杂点处理、图像比对等各种影像处理算法,该影像撷取模块22可辨识出脸部影像中的鼻孔位置,以鼻孔为基准点预估一嘴部搜寻框,并由调整该嘴部搜寻框内的影像以取得一嘴部动作信息,该嘴部动作信息为该脸部影像中,依据使用者的连续嘴部动作所产生的一编码序列。而该比较器23用于将该嘴部动作信息与该预设信息进行比对,藉以确定使用者所欲表达的意涵,若比对结果相符,则该比较器产生一指定讯号,该指定讯号依据预设信息所代表的状况相应而生的响应讯息。此外,所述侦测脸部动作以产生讯号的装置100更包含有一讯号发送单元40,用于接受该比较器产生的指定讯号并将该指定讯号发送至一指定装置50,该讯号发送单元40为Wi-Fi模块、移动通讯模块等可将讯号向外传送的发送装置。例如预设该预设信息的编码序列代表车辆发生故障的状况,且该指定装置50为汽车维修中心的讯号接收装置,则指定讯号即对应于通报维修中心前来协助的讯息,然该指定讯号的形式或用途仅为举例说明,于本发明中并不予以限制。以下列举两种实施态样以对本发明的技术内容做更为详细的说明。
于本发明第一实施态样中,该嘴部动作信息纪录一段时间内使用者嘴部张开或闭合的情况,当使用者张嘴时,使用者的脸部影像会被该处理单元20判定为一张开动作影像,反之则为一闭合动作影像,该处理单元20于每一单位时间中依据使用者嘴部的开、阖以及开阖的时间长短进行编码,且所述编码的序列组成该嘴部动作信息,该编码序列可为二元编码,或以摩斯电码的方式编码。例如将张开动作影像定义为1,闭合动作影像定义为0,若使用者张开嘴巴两个单位时间后再闭起嘴巴两个单位时间,其编码序列即为(1,1,0,0)。该处理单元20透过该比较器23将该嘴部动作信息与该预设信息进行比对,若比对结果相符,该比较器23发送该指定讯号予该讯号发送单元40,且该讯号发送单元40发送该指定讯号与该指定装置50。因此,使用者仅需依据特定的编码方式进行嘴部开阖的动作,所述侦测脸部动作以产生讯号的装置100便能产生相对应的指定讯号,进而达到藉由脸部动作产生并发送讯号的目的。
于本发明第二实施态样中,该嘴部动作信息可代表特定的嘴部连续动作或是唇语。该预设信息为该储存单元30中的一预设嘴型编码序列,该储存单元30比对该嘴型编码序列与该预设嘴型编码序列是否相符,藉以判断使用者嘴部动作所要传达的意涵。举例而言,当使用者说出“求救”两字时,使用者的影像被摄像单元10拍摄并传送到处理单元20,透过处理单元20中的影像去背模块21取出使用者的脸部影像,再经由处理单元20的影像撷取模块22从使用者的脸部影像中取得嘴部动作信息,并经由比较器23与预设信息进行比对,此时,使用者的嘴部动作会与代表“求救”的预设信息相符,该处理单元20便传送该指定讯号予该讯号发送单元40,藉以将该指定讯号发送至一指定装置50,进而达到藉由脸部动作产生并发送讯号的目的。
此外,所述侦测脸部动作以产生讯号的装置100更包含有一GPS卫星定位模块,该GPS卫星定位模块透过卫星定位以获得目前所在地的位置信息,该讯号发送单元40发送该指定讯号后,该GPS卫星定位模块一并透过该讯号发送单元40发送所在地的位置信息,可使位于指定装置50端的其它人员更快速确实地掌握该驾驶所在的位置。所述侦测脸部动作以产生讯号的装置100亦可包含有一用以纪录一行车信息并于该讯号发送单元40发送该指定讯号后透过该讯号发送单元40发送该行车信息的行车诊断系统(On-Board Diagnostics,OBD) ,该行车信息纪录汽车行驶时的状况如排气量、燃油系统状况或故障码等信息,透过该讯号发送单元40与该指定讯号一并发送,可使位于指定装置50端的人员预先了解汽车的状况,而得以在前往该驾驶所在地前作好必要的前置准备。
所述侦测脸部动作以产生讯号的装置100更包含有一影像纪录器(图中未示),当该讯号发送单元40发送该指定讯号后,该影像纪录器便开始记录该交通工具内部及/或外部的一录像,或是该影像纪录器不断地进行影像记录,但仅保留一部分的录像(如自讯号发送单元40送出该指定讯号的五分钟前开始记录)以有效利用记忆空间,以确保在意外事故等状况发生后可顺利找出肇事原因。
此外,所述侦测脸部动作以产生讯号的装置100可更进一步包含有一警报装置(图中未示),且该处理单元20包含有一眨眼计算模块24,其可于该脸部影像中找出眼睛的位置,并判断眼睛的张开及闭合情况以获取眨眼次数,并且在该眨眼次数于预定时间内超过一第一门坎值时该警报装置发出警示。该第一门坎值为正常注意力情况的眨眼次数上限,若使用者的眨眼次数超过该第一门坎值,代表使用者可能因为疲倦导致注意力丧失,进而触发该警报装置发出警示。另该处理单元20更包含有一脸部转动计算模块25,其可于该脸部影像中判断脸部是否有转向摆动的情形,并计算摆动的角度以获取一脸部转动角度,并在脸部转动角度于预定时间内超过一第二门坎值时令该警报装置发出警示。该第二门坎值为正常注意力情况的转动角度上限,若超出该第二门坎值,代表使用者可能因观看其它景象而大动作地摆动头部而有注意力不集中的状况,进而触发该警报装置发出警示。
为更能理解本发明技术功效,以下举本发明的一种应用方式。所述侦测脸部动作以产生讯号的装置100装设于一交通工具如汽车、游艇或私人飞机内,以下举汽车为例。该摄像单元10装设于一交通工具中拍摄一驾驶的脸部影像,如驾驶发生意外事故受困于车内时,可藉由作出嘴部动作的方式使所述侦测脸部动作以产生讯号的装置100透过该讯号发送单元40发送出指定讯号至该指定装置50,该指定讯号可为一则文字讯息、或一段预先录制的录音,藉以传达使用者要表达的意涵。该指定装置50可为基地台、汽车服务中心、保全中心或紧急联络人电话等。
以下针对本发明所使用方法进行说明解释,请参照图3,为本发明侦测脸部动作以产生讯号的装置100的方法流程图,如图所示:该方法至少包含有下述步骤。
首先,连续拍摄多数个影像,并透过颜色、形状等条件区辨影像中的人脸部分,并藉以辨识出一脸部影像(步骤S110)。藉由该脸部影像中辨识出一鼻孔定位点(步骤S120),由于鼻孔在大多数人的脸上均具有类似的形状且颜色一律为黑色,因此鼻孔的位置相当适合作为人脸辨识的基准点。接着,基于该鼻孔定位点设定一嘴部区域(步骤S130),具体可由该鼻孔定位点向下一段距离设定一嘴部搜寻框,该嘴部搜寻框为一横长且较为狭窄以符合嘴唇形状的长方形框,并透过影像处理模块32滤除不需要的部分后取出该脸部影像中的嘴部区域。再记录一预定时间内该嘴部区域的影像以获得一嘴部动作信息(步骤S140),于该预定时间内使用者的嘴部动作会被分割为多张图片,且每张图片段分别代表一个单位时间内的嘴部动作,且其嘴部动作会分别对应至一个特定的编码,而如前述中该嘴部动作信息为依据使用者嘴巴张阖、嘴部动作或唇语等动作产生的影像编码序列,例如每一单位时间为0.5秒,且该嘴部动作信息的长度为16个编码,则该预定时即为16x0.5=8秒,所述预定时间与单位时间的长度可依需求调整,本发明中并不予以限制。最后,再将该嘴部动作信息与至少一预设信息进行比对(步骤S150),当该嘴部动作信息符合该预设信息时,发送对应于该预设信息的一指定讯号(步骤S160)。
请一并参阅图4,图4为本发明取出该嘴部区域的方法流程图,如图所示:基于该鼻孔定位点取出一嘴部区域的步骤,具体上可藉由嘴唇颜色与皮肤、牙齿颜色深浅不同的差异,透过调整该嘴部搜寻框内的对比而获得一加强影像(步骤S131),并进一步对该加强影像进行去杂点处理,如透过像素矩阵将杂点滤除,而获得一相对于加强影像更清晰的去杂点影像(步骤S132)。接着,根据影像中某个颜色与另一个颜色的对比程度进行一边缘锐利化处理,以决定该去杂点影像中的边缘,以获得一锐化影像(步骤S133)。由于影像的复杂程度将决定影像占用的记忆容量,为提高比对的效能,需对该锐化影像进行一二值化处理,所述二值化处理需先定义一阈值,并将影像中的像素分为超出或低于该阈值的二种数值,而可获得一二值化影像(步骤S134)。最后,再次对该二值化影像进行边缘锐利化处理,此时二值化影像中使用者的嘴唇部位相当明显,即可于该嘴部搜寻框中取出一嘴部区域(步骤S135)。然而上述取出嘴部区域的方法仅为说明解释之用,本发明并不以此为限。
请一并参阅图5,图5为本发明第一实施态样获得嘴部动作信息的方法流程图,如图所示:在记录一预定时间内该嘴部区域的影像获得一嘴部动作信息的步骤中,为获得记录使用者嘴部开阖的嘴部动作信息,首先需在该嘴部区域中取出多数个嘴部特征,所述嘴部特征包含有一上唇部位,以及一下唇部位(步骤S141A)。更详言之,取出嘴部特征的方法可藉由找出嘴部区域的左右两侧边界,藉以定义出左侧嘴角与右侧嘴角,同样的,藉由找出嘴部区域的上下两侧的轮廓线,并经由左侧嘴角与右侧嘴角的联机辨识出上唇部位与下唇部位。接着将该上唇部位与该下唇部位的间距与一间隙值进行比较(步骤S142A)。若该上唇部位与该下唇部位间的间距大于该间隙值(步骤S143A),代表使用者的嘴巴是张开的,则获得一张开动作影像,反之则获得一闭合动作影像(步骤S144A),依据该闭合动作影像或该张开动作影像产生一编码,并将该编码存入一编码序列中的第N栏(步骤S145A),接着判断是否达到该预定时间(步骤S146A),若尚未达到预定时间,则使N=N +1(步骤S147A),并回到步骤S141A继续分辨嘴部的开阖,且下次产生的编码将会储存至该编码序列中的下一字段。其中,每一个第N字段均代表一个单位时间,储存于字段中的编码则代表该单位时间的脸部影像,实际上可于步骤S141A至S147A的流程中加入延迟时间,使此一流程所耗费的时间等于单位时间,便可实现每个第N字段代表一个单位时间的目的。最后,将该编码序列存入该嘴部动作信息(步骤S148A)。
请一并参阅图6,图6为本发明第二实施态样获得嘴部动作信息的方法流程图,如图所示:除图5的方法外,该嘴部动作信息亦可代表多种嘴型的组合序列。在记录一预定时间内该嘴部区域的影像获得一嘴部动作信息的步骤中,首先将该嘴部区域的影像与一储存单元30中的多数个样板影像(pattern)进行比对(步骤S141B),若比对结果嘴部区域的影像相符于该样板影像(步骤S142B),若比对结果相符,则产生一嘴型编码,并将该嘴型编码存入一编码序列中的第N栏(步骤S143B),接着判断是否达到该预定时间(步骤S144B),若否,则将N=N+1(步骤S145B)并回到步骤S141B。在到达预设时间后,再将该编码序列存入该嘴部动作信息(步骤S146B)。所述样板影像为具有辨识性的特定嘴部动作影像或唇语等,如朗读日文五十音的“あ、い、う、え、お”时嘴部各处肌肉呈现的动作,这些样板影像分别具有一定的变动弹性,即便使用者脸部影像中的嘴型与样板影像具有些微的差异,只要差异在变动弹性可容许的范围内依然可辨识为与样板影像相符的嘴型编码。相应地,预存于储存单元30中的该预设信息为取自所述样板影像排列组合而成的至少一预设嘴型编码序列,且每一预设嘴型编码序列均对应于一指定讯号。如当使用者受到挟持时,使用者可由嘴部作出念诵“求救”的动作,但不必发出声音,便可由难以被察觉的方式使该讯号发送单元40产生求救讯号并发送至保全中心等处求援。
此外,本发明方法步骤亦可储存于一计算机可读取纪录媒体中实施,该计算机可读取纪录媒体为磁盘片、光盘片或硬盘等电子式纪录媒体,并藉由可读取该计算机可读取纪录媒体的电子装置读取并执行。具体而言,该电子装置可以为小型的可携式电子装置、行车纪录装置、行车安全辅助装置、车辆系统的ODB、计算机设备、或类此的电子装置等。
综上所述,本发明侦测脸部动作以产生讯号的装置可藉由摄像单元拍摄多数个影像,并将这些影像传送给处理单元藉由影像去背模块撷取出使用者的脸部影像,并由影像撷取模块进行嘴部搜寻框的设定以取得该嘴部动作信息,再透过比较器将该嘴部动作信息与储存单元中预存的预设信息进行比对,若比对结果相符,则藉由讯号发送单元将对应于该预设信息的指定讯号发送至指定装置,达到藉由侦测脸部动作以产生讯号的功效。此外,若该侦测脸部动作以产生讯号的装置装设于汽车等交通工具内,更可藉由GPS卫星定位模块、行车监控系统一并发送出使用者目前所在地的位置信息,以及行车信息以便于位于指定装置端的人员更快速地且详细地掌握使用者目前的状况,并透过影像纪录器纪录当时环境的录像,以助于厘清意外事故等事件的肇因,另外,本发明可透过脸部影像判断出使用者的眨眼次数以及脸部转动角度,并与第一门坎值或第二门坎值进行比对,若比对结果相符,代表使用者有注意力不集中的状况,再透过警示装置加以示警。
本发明已藉上述较佳具体例进行更详细说明,惟本发明并不限定于上述所举例的实施态样,凡在本发明所揭示技术思想范围内,对结构所作各种变化及修饰仍属本发明范围。

Claims (17)

1.一种侦测脸部动作以产生讯号的装置,包含一摄像单元,连续拍摄并取得多数个影像;以及一处理单元,经由该摄像单元取得该多数个影像,并将该影像储存至一储存单元,其特征在于,该储存单元另存有一预设信息,该处理单元包含有一影像去背模块、一影像撷取模块以及一比较器;
其中该影像去背模块分别处理该多数个影像以撷取出脸部影像;
其中该影像撷取模块侦测该脸部影像中鼻孔的位置,预估一嘴部搜寻框,并由该嘴部搜寻框取得嘴部动作信息,该嘴部动作信息为依据该脸部影像中嘴部张开或闭合的动作依据单位时间的数量所排列组合而形成的一编码序列,该预设信息为预存于储存单元中的预设编码序列;
其中该比较器比对该嘴部动作信息与该预设信息,若比对结果相符,则该比较器产生一指定讯号。
2.如权利要求1所述的侦测脸部动作以产生讯号的装置,其特征在于,该嘴部动作信息为一由多数个嘴型编码排列组合而成的嘴型编码序列,该预设信息为预存于该储存单元中的一预设嘴型编码序列。
3.如权利要求1所述的侦测脸部动作以产生讯号的装置,其特征在于,更进一步包含有一讯号发送单元,接受该比较器产生的指定讯号并将该指定讯号发送至一指定装置。
4.如权利要求3所述的侦测脸部动作以产生讯号的装置,其特征在于,该讯号发送单元为移动通讯模块或Wi-Fi模块,且该指定装置为基地台、汽车服务中心、保全中心或紧急联络人电话。
5.如权利要求4所述的侦测脸部动作以产生讯号的装置,其特征在于,更进一步包含有一于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送一位置信息至该指定装置的GPS卫星定位模块。
6.如权利要求4所述的侦测脸部动作以产生讯号的装置,其特征在于,更进一步包含有一用以纪录一行车信息并于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送该行车信息至该指定装置的行车诊断系统。
7.如权利要求4所述的侦测脸部动作以产生讯号的装置,其特征在于,更进一步包含有一于该讯号发送单元发送该指定讯号后记录一交通工具内部及/或外部录像的影像纪录器。
8.如权利要求1所述的侦测脸部动作以产生讯号的装置,其特征在于,更进一步包含有一警报装置,且该处理单元包含有一眨眼计算模块,该警报装置于该处理单元的眨眼计算模块计算出该脸部影像的一眨眼次数且该眨眼次数于预定时间内超过一第一门坎值时发出警示。
9.如权利要求1所述的侦测脸部动作以产生讯号的装置,其特征在于,更进一步包含有一警报装置,且该处理单元包含有一脸部转动计算模块,该警报装置于该处理单元的脸部转动计算模块计算出该脸部影像的一脸部转动角度且该脸部转动角度于预定时间内超过一第二门坎值时发出警示。
10.一种侦测脸部动作以产生讯号的方法,执行于一电子装置中,其特征在于该方法包含有以下步骤:
连续拍摄多数个影像,并由该多数个影像中辨识出一脸部影像;
由该脸部影像中辨识出一鼻孔定位点;
基于该鼻孔定位点设定一嘴部区域;
记录一预定时间内该嘴部区域的影像获得一嘴部动作信息,该嘴部动作信息为依据该脸部影像中嘴部张开或闭合的动作依据单位时间的数量所排列组合而形成的一编码序列,在储存单元中预存预设编码序列作为预设信息;以及
比对该嘴部动作信息与至少一预设信息,当该嘴部动作信息符合该预设信息时,产生对应于该预设信息的一指定讯号。
11.如权利要求10所述的侦测脸部动作以产生讯号的方法,其特征在于,基于该鼻孔定位点设定一嘴部区域的步骤包含:
基于该鼻孔定位点设定一嘴部搜寻框,并调整该嘴部搜寻框内的对比而获得一加强影像;
对该加强影像进行一去杂点处理,而获得一去杂点影像;
对该去杂点影像进行一边缘锐利化处理,而获得一锐化影像;
对该锐化影像进行一二值化处理,而获得一二值化影像;以及
再次对该二值化影像进行该边缘锐利化处理,并于该嘴部搜寻框取出一嘴部区域。
12.如权利要求10所述的侦测脸部动作以产生讯号的方法,其特征在于,记录一预定时间内该嘴部区域的影像获得一嘴部动作信息的步骤包含:
由该嘴部区域中取出多数个嘴部特征,所述嘴部特征包含有一上唇部位,以及一下唇部位;
将该上唇部位与该下唇部位的间距与一间隙值进行比较;
若间距大于该间隙值,则获得一张开动作影像;
若间距小于该间隙值,则获得一闭合动作影像;
依据该闭合动作影像或该张开动作影像产生一编码,并将该编码存入一编码序列中的第N栏;
判断是否达到该预定时间;以及
将该编码序列存入该嘴部动作信息。
13.如权利要求10所述的侦测脸部动作以产生讯号的方法,其特征在于,记录一预定时间内该嘴部区域的影像获得一嘴部动作信息的步骤包含:
将该嘴部区域的影像与多数个样板影像进行比对;
若比对结果相符,则产生一嘴型编码,并将该嘴型编码存入一编码序列中的第N栏;
判断是否达到该预定时间;
将该编码序列存入该嘴部动作信息。
14.如权利要求10所述的侦测脸部动作以产生讯号的方法,其特征在于,在产生该指定讯号的步骤之后,更包含:
透过一讯号发送单元发送该指定讯号至一指定装置;其中
该讯号发送单元为装设于一交通工具内的移动通讯模块或Wi-Fi模块,且该指定装置为基地台、汽车服务中心、保全中心或紧急联络人电话。
15.如权利要求14所述的侦测脸部动作以产生讯号的方法,其特征在于,更进一步提供一于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送一位置信息至该指定装置的一GPS卫星定位模块。
16.如权利要求14所述的侦测脸部动作以产生讯号的方法,其特征在于,更进一步提供一用以记录一行车信息并于该讯号发送单元发送该指定讯号后透过该讯号发送单元发送该行车信息至该指定装置的行车诊断系统。
17.如权利要求14所述的侦测脸部动作以产生讯号的方法,其特征在于,更进一步提供一于该讯号发送单元发送该指定讯号后记录该交通工具内部及/或外部录像的一影像纪录器。
CN201310289984.5A 2013-06-24 2013-07-11 侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体 Active CN104238732B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW102122408 2013-06-24
TW102122408A TW201501044A (zh) 2013-06-24 2013-06-24 偵測臉部動作以產生訊號的裝置、方法以及電腦可讀取紀錄媒體

Publications (2)

Publication Number Publication Date
CN104238732A CN104238732A (zh) 2014-12-24
CN104238732B true CN104238732B (zh) 2019-10-25

Family

ID=52110963

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310289984.5A Active CN104238732B (zh) 2013-06-24 2013-07-11 侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体

Country Status (4)

Country Link
US (1) US9354615B2 (zh)
JP (1) JP2015007952A (zh)
CN (1) CN104238732B (zh)
TW (1) TW201501044A (zh)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9679194B2 (en) * 2014-07-17 2017-06-13 At&T Intellectual Property I, L.P. Automated obscurity for pervasive imaging
TWI533239B (zh) * 2014-12-12 2016-05-11 由田新技股份有限公司 遠距臉部監控系統及其方法、電腦可讀取紀錄媒體、及電腦程式產品
TWI564791B (zh) * 2015-05-19 2017-01-01 卡訊電子股份有限公司 播音控制系統、方法、電腦程式產品及電腦可讀取紀錄媒體
WO2017043132A1 (ja) 2015-09-08 2017-03-16 日本電気株式会社 顔認識システム、顔認識方法、表示制御装置、表示制御方法および表示制御プログラム
CN105892635A (zh) * 2015-11-18 2016-08-24 乐视网信息技术(北京)股份有限公司 截图实现方法、装置及电子设备
KR101909326B1 (ko) 2015-12-08 2018-12-19 단국대학교 천안캠퍼스 산학협력단 얼굴 모션 변화에 따른 삼각 매쉬 모델을 활용하는 사용자 인터페이스 제어 방법 및 시스템
KR101759799B1 (ko) * 2015-12-29 2017-08-01 (주)태원이노베이션 3차원 이미지 제공 방법
CN106980780A (zh) * 2016-01-18 2017-07-25 由田新技股份有限公司 身份验证方法及装置
CN106569599B (zh) * 2016-10-24 2020-05-01 百度在线网络技术(北京)有限公司 一种用于自动求助的方法和装置
GB2561537B (en) * 2017-02-27 2022-10-12 Emteq Ltd Optical expression detection
CN107734416B (zh) * 2017-10-11 2024-01-09 深圳市三诺数字科技有限公司 一种激光面纹识别降噪装置、耳机及方法
CN109766739A (zh) * 2017-11-09 2019-05-17 英属开曼群岛商麦迪创科技股份有限公司 脸部辨识系统及脸部辨识方法
CN108683790B (zh) * 2018-04-23 2020-09-22 Oppo广东移动通信有限公司 语音处理方法及相关产品
CN111931675B (zh) * 2020-08-18 2024-10-01 熵基科技股份有限公司 基于人脸识别的胁迫报警方法、装置、设备和存储介质
CN111950507B (zh) * 2020-08-25 2024-06-11 北京猎户星空科技有限公司 数据处理和模型训练方法、装置、设备及介质
CN112419666B (zh) * 2020-10-19 2022-06-14 钱继华 一种基于升降控制的智能居住服务方法及其系统
TWI741892B (zh) * 2020-12-01 2021-10-01 咸瑞科技股份有限公司 車內駕駛監測系統
CN113460067B (zh) * 2020-12-30 2023-06-23 安波福电子(苏州)有限公司 一种人车交互系统
CN114022870B (zh) * 2021-09-24 2024-05-07 合众新能源汽车股份有限公司 汽车的求救信号传递方法及装置
CN114399827B (zh) * 2022-03-14 2022-08-09 潍坊护理职业学院 基于面部微表情的高校毕业生职业性格测试方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4975960A (en) * 1985-06-03 1990-12-04 Petajan Eric D Electronic facial tracking and detection system and method and apparatus for automated speech recognition
JPH11339200A (ja) * 1998-05-28 1999-12-10 Toyota Motor Corp 居眠り運転検出装置
JP2002354459A (ja) * 2001-03-21 2002-12-06 Astem:Kk 能動的監視カメラ
JP2009015550A (ja) * 2007-07-04 2009-01-22 Omron Corp 脇見検出装置および方法、並びに、プログラム
CN102841676A (zh) * 2011-06-23 2012-12-26 鸿富锦精密工业(深圳)有限公司 网页浏览控制系统及方法
CN202771371U (zh) * 2012-09-18 2013-03-06 王河川 一种头控助残鼠标

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3293308B2 (ja) * 1994-03-10 2002-06-17 三菱電機株式会社 人物状態検出装置
TW565754B (en) 2002-10-14 2003-12-11 Chung Shan Inst Of Science Eye-controlled auxiliary driving system
JP2005205930A (ja) * 2004-01-20 2005-08-04 Clarion Co Ltd ドライブレコーダ装置
US20060161315A1 (en) * 2004-11-22 2006-07-20 Ron Lewis Vehicle position and performance tracking system using wireless communication
US7791491B2 (en) * 2005-03-04 2010-09-07 Sleep Diagnostics Pty., Ltd Measuring alertness
JP4984583B2 (ja) * 2006-03-15 2012-07-25 オムロン株式会社 表示装置、プロジェクタ、表示システム、表示方法、表示プログラム、および記録媒体
JP4137969B2 (ja) * 2006-12-04 2008-08-20 アイシン精機株式会社 眼部検出装置、眼部検出方法及びプログラム
JP2009111803A (ja) * 2007-10-31 2009-05-21 Panasonic Corp ドライブレコーダ装置およびドライブレコーダシステム
JP5262243B2 (ja) * 2008-03-31 2013-08-14 アイシン精機株式会社 眼開閉判別装置、及びプログラム
JP4788786B2 (ja) * 2009-02-09 2011-10-05 株式会社デンソー 眠気検出装置,プログラムおよび眠気検出方法
CN101697199B (zh) * 2009-08-11 2012-07-04 北京盈科成章科技有限公司 头面部动作检测方法及应用该方法操控计算机的助残系统
CN102193621A (zh) * 2010-03-17 2011-09-21 三星电子(中国)研发中心 基于视觉的交互式电子设备控制系统及其控制方法
JP2012118679A (ja) * 2010-11-30 2012-06-21 Nec Commun Syst Ltd 情報処理装置、単語判別装置、画面表示操作装置、単語登録装置およびこれらに関する方法ならびにプログラム
US9292471B2 (en) * 2011-02-18 2016-03-22 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
JP5627511B2 (ja) * 2011-03-03 2014-11-19 アイシン精機株式会社 状態推定装置、状態推定方法及びプログラム
JP5367037B2 (ja) * 2011-09-26 2013-12-11 本田技研工業株式会社 顔向き検出装置
TWI478691B (zh) * 2012-01-06 2015-04-01 Wistron Corp 睡意偵測方法及其裝置
JP2013157747A (ja) * 2012-01-27 2013-08-15 Denso Corp 音場制御装置及びプログラム
US20130332160A1 (en) * 2012-06-12 2013-12-12 John G. Posa Smart phone with self-training, lip-reading and eye-tracking capabilities

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4975960A (en) * 1985-06-03 1990-12-04 Petajan Eric D Electronic facial tracking and detection system and method and apparatus for automated speech recognition
JPH11339200A (ja) * 1998-05-28 1999-12-10 Toyota Motor Corp 居眠り運転検出装置
JP2002354459A (ja) * 2001-03-21 2002-12-06 Astem:Kk 能動的監視カメラ
JP2009015550A (ja) * 2007-07-04 2009-01-22 Omron Corp 脇見検出装置および方法、並びに、プログラム
CN102841676A (zh) * 2011-06-23 2012-12-26 鸿富锦精密工业(深圳)有限公司 网页浏览控制系统及方法
CN202771371U (zh) * 2012-09-18 2013-03-06 王河川 一种头控助残鼠标

Also Published As

Publication number Publication date
US20140376772A1 (en) 2014-12-25
TW201501044A (zh) 2015-01-01
CN104238732A (zh) 2014-12-24
JP2015007952A (ja) 2015-01-15
US9354615B2 (en) 2016-05-31

Similar Documents

Publication Publication Date Title
CN104238732B (zh) 侦测脸部动作以产生讯号的装置、方法以及计算机可读取纪录媒体
CN110119676B (zh) 一种基于神经网络的驾驶员疲劳检测方法
CN107679468A (zh) 一种嵌入式计算机视觉检测疲劳驾驶方法及装置
CN106557726B (zh) 一种带静默式活体检测的人脸身份认证系统及其方法
CN103366506A (zh) 一种驾驶员行车途中接打手机行为的自动监控装置及方法
CN108764034A (zh) 一种基于驾驶室近红外相机的分神驾驶行为预警方法
CN110532976A (zh) 基于机器学习和多特征融合的疲劳驾驶检测方法及系统
CN114170585B (zh) 危险驾驶行为的识别方法、装置、电子设备及存储介质
Yan et al. Recognizing driver inattention by convolutional neural networks
KR101337554B1 (ko) 차량용 블랙박스의 영상인식을 이용한 수배자 및 실종자 추적 장치 및 그 방법
TWI492193B (zh) 觸發訊號的方法及車用電子裝置
US10733857B1 (en) Automatic alteration of the storage duration of a video
CN111696312B (zh) 乘员观察装置
TWI520076B (zh) 偵測人員使用手持裝置的方法及裝置
Soman et al. Internet-of-Things-assisted artificial intelligence-enabled drowsiness detection framework
CN114332941A (zh) 基于乘车对象检测的报警提示方法、装置及电子设备
CN114495252A (zh) 视线检测方法、装置、电子设备及存储介质
Greer et al. Driver Activity Classification Using Generalizable Representations from Vision-Language Models
Zhou et al. Development of a camera-based driver state monitoring system for cost-effective embedded solution
Nair et al. Driver assistant system using Haar cascade and convolution neural networks (CNN)
CN112329566A (zh) 一种精准感知机动车驾驶人员头部动作的视觉感知系统
CN112948792A (zh) 一种解锁方法及装置
Radhika et al. Container based Driver Fatigue System using IoT
CN110751810A (zh) 一种疲劳驾驶检测方法和装置
CN111008591A (zh) 利用视频检测人脸精细状态的方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant