CN106325514B - 一种手持智能终端的防掉落方法、装置及其电子设备 - Google Patents
一种手持智能终端的防掉落方法、装置及其电子设备 Download PDFInfo
- Publication number
- CN106325514B CN106325514B CN201610735473.5A CN201610735473A CN106325514B CN 106325514 B CN106325514 B CN 106325514B CN 201610735473 A CN201610735473 A CN 201610735473A CN 106325514 B CN106325514 B CN 106325514B
- Authority
- CN
- China
- Prior art keywords
- intelligent terminal
- user
- facial
- parameter
- handheld intelligent
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 230000001815 facial effect Effects 0.000 claims abstract description 80
- 230000005484 gravity Effects 0.000 claims description 10
- 230000003993 interaction Effects 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 5
- 238000012790 confirmation Methods 0.000 claims description 4
- 238000004904 shortening Methods 0.000 claims description 4
- 230000002452 interceptive effect Effects 0.000 claims 3
- 206010041349 Somnolence Diseases 0.000 abstract description 5
- 210000000744 eyelid Anatomy 0.000 description 16
- 230000008569 process Effects 0.000 description 11
- 238000005070 sampling Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000002265 prevention Effects 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 206010048232 Yawning Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000003340 mental effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 208000016255 tiredness Diseases 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Telephone Function (AREA)
Abstract
本发明公开了一种手持智能终端的防掉落方法、防掉落装置及其电子设备。该方法包括:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。通过采集图像的方式并在分析图像信息后,通过特定的判断标准进行判断,检测用户的状态。在用户处于较为困倦的情况下,能够及时的发出报警提示,避免用户因瞌睡导致手持智能终端掉落,砸伤用户或者损坏手持智能终端。
Description
技术领域
本发明涉及智能终端技术领域,特别是涉及一种手持智能终端的防掉落方法、防掉落装置及其电子设备。
背景技术
随着电子技术的不断发展,手持式智能电子设备的类型和功能越来越多,例如各类型的智能手机,手持式电子阅读器以及平板电脑等。其在日常生活中的使用范围也越来越广泛。
在用户躺下,或者倚靠在沙发上这样的应用场景(即处于仰卧或者侧卧位置操作)中,用户可能在操作手持式智能电子设备(如智能手机)的过程中较为疲倦,而导致犯困,感到疲惫或者出现瞌睡的情况。在困倦程度较高的情况下,用户的反应会变得迟缓而且手部可能无法很好的握持该智能电子设备,从而导致设备的掉落。
在实现本发明的过程中,发明人发现现有技术中存在着如下的问题:一方面,由于操作的习惯,以躺卧的姿势操作时,该智能电子设备通常会放置在头部或者眼部得分位置,掉落的设备会有很大的可能直接砸中用户的头部或者面部。尤其是在智能电子设备的外形具有尖锐的部件时,其跌落会对用户产生较大的风险。
另一方面,即使掉落的智能电子设备没有砸中用户,也会砸落在其它坚硬的表面,例如地面,造成智能电子设备的损坏。
发明内容
本发明实施方式主要解决的技术问题是提供一种手持智能终端的防掉落方法、防掉落装置及其电子设备,能够解决现有技术中手持智能终端在仰卧或者侧卧位置操作时容易因用户困倦而掉落的问题。
为解决上述技术问题,本发明实施方式采用的一个技术方案是:提供一种手持智能终端的防掉落方法。该方法包括:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;以及若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
可选地,所述方法还包括:获取手持智能终端的屏幕朝向;在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态;所述第一方向为与重力方向的夹角小于或等于110°的方向。
可选地,所述面部参数特征包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数;所述眼睑形状参数包括用户面部图像中的眼睛图像的纵轴和横轴半径。
可选地,所述所述面部参数特征满足触发条件,具体包括:预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
可选地,所述方法还包括:在发出报警提示后,缩短所述采集图像信息的预定的周期;根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
为解决上述技术问题,本发明实施方式采用的另一个技术方案是:提供一种手持智能终端的防掉落装置。该装置包括:图像信息采集模块,用于以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;参数特征提取模块,用于提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;以及判断模块,用于若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
可选地,所述装置还包括:防掉落状态确认模块,用于获取手持智能终端的屏幕朝向;以及在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态;所述第一方向为与重力方向的夹角小于或等于110°的方向。
可选地,所述面部参数特征包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数;所述眼睑形状参数包括用户面部图像中的眼睛图像的纵轴和横轴半径。
可选地,所述判断模块具体包括:分级标准预设单元,用于由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;报警提示单元,若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
可选地,所述装置还包括:周期调整模块,用于在发出报警提示后,缩短所述采集图像信息的预定的周期;以及标准调节模块,用于根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
为解决上述技术问题,本发明实施方式采用的又一个技术方案是:提供一种电子设备。该电子设备包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令程序,所述指令程序被所述至少一个处理器执行,以使所述至少一个处理器能够:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;以及若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
区别于现有技术的情况,本发明实施方式在手持智能终端进入到防掉落状态时,会通过采集图像以及分析图像信息的方式,以特定的判断标准进行判断从而完成对用户状态的检测。在判断到用户处于较为困倦的情况下,能够及时的发出报警提示,避免用户因瞌睡导致手持智能终端掉落,砸伤用户或者损坏手持智能终端。
附图说明
图1是本发明实施例提供的手持智能终端的防掉落方法的应用场景的示意图;
图2是本发明实施例的手持智能终端的防掉落方法的方法流程图;
图3是本发明另一实施例的手持智能终端的防掉落方法的方法流程图;
图4是本发明实施例的屏幕朝向示意图;
图5是本发明实施例的手持智能终端的防掉落装置的装置示意图;
图6是本发明另一实施例的手持智能终端的防掉落装置的装置示意图;
图7是本发明实施例提供的防掉落方法的电子设备的硬件结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
本发明实施例的手持智能终端的防掉落方法能够应用于合适的,具有一定运算能力的手持式智能设备中,例如掌上游戏机、PDA(掌上计算机)、智能手机、平板电脑、电子阅读器或者其他合适的手持智能终端中。
本发明实施例的手持智能终端的防掉落装置可以作为其中一个软件或者硬件功能单元,独立设置在上述手持智能终端中,也可以作为整合在处理器中的其中一个功能模块,执行本发明实施例的防掉落方法。
在本发明实施例中,使用“睡眠程度”这样的术语来表示用户的困倦状态,出现瞌睡情况导致手持智能终端掉落的可能性。该睡眠程度是以预定的标准进行衡量的定性判定方式而非精确的定量判断方式。该预定的标准并非一个固定的标准阈值,其可以根据不同的用户进行一定的调整,仅需要大致的能够判断当前用户是否属于精神,能够握持设备或者是否属于困倦,容易使设备掉落的状态。
图1为本发明实施例提供的一种防掉落方法的应用场景。在该场景中,包括手持智能终端10,用户20以及床铺30。
用户20躺卧在床铺30上,以仰卧位的方式操作手持智能终端10。用户20通过多种不同的操作方式与手持智能终端10之间进行互动,包括语音控制,触摸控制等。
在手持智能终端10在执行用户交互操作的同时,进一步的启动内置或者独立设置的图像采集装置采集用户的图像信息,或者通过其它网络等获取的相关图像信息对用户的睡眠程度进行判断。在一些具体的应用场景中,还可以进一步的添加其它的功能设备,例如网络40。
图2为本发明实施例的一种手持智能终端的防掉落方法。请参阅图2,该方法包括如下步骤:
101:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像。
当手持智能终端进入到防掉落状态时,开始进行步骤101,执行该防掉落方法以避免手持智能终端的掉落。
该防掉落状态是指手持智能终端处于用户仰卧位或者侧卧位使用时的状态。在这样的防掉落状态中,手持智能终端在离开用户的施力后,在重力作用下将加速下落,存在砸落地面或者击中用户的可能。该防掉落状态可以通过多种合适的方式或者装置确定,例如通过设置在手持式智能终端中的位置传感器(如重力传感器、陀螺仪)来确定智能终端的方向和位置状态,从而确认是否处于防掉落状态。
该图像信息可以通过任何合适的图像采集装置完成采集,例如,通过用户使用的智能手机的前置摄像头或者是通过外置的拍摄装置获取所述图像信息。
该图像信息可以是任何类型的图像,包括多种不同元素或者在各种场景下拍摄的图片。为保证后续步骤的顺利完成,该图像信息应当至少包含有全部或者部分的用户面部图像。
该预定的周期为图像信息的采样周期。其决定了图像信息的处理量以及该防掉落方法反映的用户状态的实时性。一般的,使用较短的周期能够更及时的反映用户状态的变化(即睡眠程度的变化),而使用较长的周期能够减少图像信息的数据量,减轻后续步骤的数据处理压力。具体使用的周期可以由技术人员根据实际情况予以设置,例如可以是每10s采集一次,或者是每30s采集一次,还可以是根据实际应用情况发生变动或者周期性变化的采样周期。
103:提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征。
在获取到图像信息后,需要提取其中的参数特征以获得图像信息中包含的用户状态信息。其参数特征的提取具体可以采用现有技术中任何合适的算法或者其组合来实现,例如维奥拉-琼斯算法(viola-johns)和监督式的梯度下降算法(supervised descentmethod)。
该参数特征可以是图像信息中的各种不同类型的图像特征,例如面部边缘特征,用户的眼睛图像、用户的嘴部图像、前景、背景等。具体的参数特征根据实际使用的算法所确定。
在一些算法组合应用过程中,一些参数特征还可以作为提取其它参数特征的基础,例如,通过边缘算子来获得面部边缘特征。然后根据面部边缘特征,确定用户的面部范围。最后在用户面部图像中检测获得用户的眼睛图像、嘴部图像等。
为了步骤105的实现,该参数特征应当至少包括一项与所述用户面部图像相关的面部参数特征。该面部参数特征是指与用户面部图像相关的,能够反映用户面部的元素,如眼睛,嘴巴等状态的参数特征,例如,眼睛的长轴长度,眼睛的短轴长度,上下眼皮之间的距离等。
105:若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
在从所述图像信息中提取到足够的参数特征(包括面部参数特征)后,可以将其与触发条件进行比较,从而定性的确定当前用户的睡眠程度状态,是否存在有较大的概率需要进行提醒以防止用户瞌睡导致智能手持终端掉落。该触发条件可以是根据实际情况设置的,在满足该触发条件的情况下,表示具有极大的可能性出现手持式终端掉落的情况发生。
该触发条件可以是多种不同类型的判断项目或者其结合,例如通过和/或/非等比尔运算或者权重分析的方式结合,获得最终的判断结果。该触发条件包括与采集获得面部参数特征匹配的阈值,亦即一种类型的面部参数特征与一个判断标准或者判断项目对应,以尽可能的利用提取的面部参数特征来完成更为准确的判断。例如,在面部参数特征为眼睛和嘴巴相关时,触发条件中需要有对应的眼睛和嘴巴相关的阈值。该阈值可以是一个确定的数值范围(如10-20),也可以是一个界限值,例如10,15。当满足触发条件时,表示所述面部参数特征与所述阈值匹配,即所述面部参数特征落入阈值的范围之内,或者接近阈值界限值。
该触发条件是预先设定的条件,可以由相关技术人员预先设置或者根据不同的情况进行分析设置。设置后的初始值还可以根据一些特定的情况进行更改,从而更好的适应当前的应用环境,实现更准确的判断。
该报警提示是由手持式智能终端或者应用场景中其它相关设备发出的提示性信息,用以提示用户,产生类似于闹铃等的效果,避免用户瞌睡而导致智能终端的跌落。
在本实施例中,采用了对用户的面部图像进行定期采样,然后提取图像特征并与预设标准进行比对的方法。在用户的面部图像显示用户具有较高盖然性进入瞌睡状态或者其它睡眠程度导致智能终端跌落的情况下,及时的发出报警提示信息提示用户,用户可以采取相应的措施(如放下智能手机)从而避免用户在使用过程中,智能终端跌落而产生的安全风险或者导致智能终端的损毁。
图3为本发明另一实施例提供的一种手持智能终端的防掉落方法。请参阅图3,在本实施例中,通过如下步骤确定该手持智能终端是否进入防掉落状态:
301:获取手持智能终端的屏幕朝向。
在实际应用中,可以采用多种不同的方式获取屏幕朝向,例如,通过手持智能终端内置的位置传感器;通过外部设备获取的,并传输至手持智能终端的位置信息等。
303:在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态。
所述第一方向为与重力方向的夹角小于或等于110°的方向,亦即该第一方向是指朝向地面的方向。该标准能够包括一些手持智能终端A的屏幕完全正向或者有部分侧向朝向地面的情况(如图4所示),也一般的用户使用情况相适应。
在这种屏幕朝向时,一般的可以认为该手持智能终端基本上属于图1中所示的应用场景,需要执行提醒功能以防止智能终端掉落带来的风险。
该预定的第一时间是一个预设的时间值,可以通过任何合适的方式,根据实际应用情况进行设置,例如,设置为5s,10s或者20s等。设置该预定的第一时间,可以避免一些错误的判断情况,例如用户在正常使用过程中,将手机翻转的情况。
上述具体步骤提供了一种判断手持智能终端是否进入防掉落状态的方式。该方式提供了一种计算机易于识别和判断的标准,检测简单易行,可以方便的通过,例如手持智能终端的位置传感器等完成屏幕朝向的判断。
在本实施例中,所述面部参数特征可以包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数。所述眼睑形状参数可以包括用户面部图像中的眼睛图像的纵轴和横轴半径。
使用上述两个面部参数特征,具有较强的代表性能够识别用户是否已经进入到一个容易导致手机掉落的睡眠程度状态中。
惯常的检测人体睡眠程度的方法通常是以检测眨眼次数来完成的。该检测眨眼次数的方式,由于是一种发生形变的图像识别,对于图像识别和运算量的要求较高。在本实施例中,使用上述较为容易识别以及容易进行判断,精确度较高的方式,能够有效的节约提取参数特征占用的系统资源。这样的方式,对于计算能力较为有限的手持式智能终端是较为适合的。
在本实施例中,请参阅图3,步骤103具体可以包括如下步骤:
1031:预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示。
将触发条件设置为多种不同的分级条件。利用该分级条件能够对用户的睡眠程度进行分级。例如,这样的分级可以是:轻度、中度或者重度睡眠。在满足一个分级条件的情况下,可以判断为用户处于相应的睡眠程度状态。例如,可以将分级条件设置为1级条件为嘴巴张合次数为3次,2级条件为嘴巴张合次数为5次以及3级条件为嘴巴张合次数为8次这样包括3级分级条件的触发条件。
相对应地,报警提示也设置为与分级条件对应。所述报警提示可以包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。例如,上述设置了3个分级条件后,也设置三个不同的报警提示与其对应。
1033:若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示。
在面部参数特征满足某一特定的分级条件以后,则触发执行与所述分级条件对应的报警提示。
在本实施例中,通过将触发条件设置为不同的具有不同等级的分级条件,从而适应用户在实际情况中不同的睡眠状态的判断。根据用户的实际睡眠状态情况,发出相对应的报警提示,实现区别化对待。
例如,在用户满足1级分级条件的情况下,发出第一音量的第一响声,若用户继续使用,其满足了2级分级条件以后,就发出第二音量的第二响声(使用更大的音量),从而提醒用户。最后若满足3级分级条件以后,执行降低屏幕亮度或者关闭屏幕等操作,使得用户无法使用,提示用户应当放下手持智能终端从而避免掉落发生安全风险或者意外。
请继续参阅图3,在本实施例中,所述方法还包括如下步骤:
307:在发出报警提示后,缩短所述采集图像信息的预定的周期。在手持式智能终端发出过报警提示后,用户可能仍然会继续使用该终端来继续观看视频或者浏览网页等。
在这样的应用场景中,可以认为用户已经处于比较疲倦的状态,需要更及时的采集数据以提高实时性,从而及时的发出报警提示。如前所述,可以通过缩短采样的周期来实现这样的目的。
309:根据调节参数,调整所述触发条件,所述调节参数与发出报警提示的次数呈正相关关系。
由于基于采样周期的调整,因此需要使用一个调节参数来对预设的触发条件进行调整,才能够反映当前的用户情况和完成匹配。该调节参数通常可以设置一个预设值,然后根据实际的情况进行调节以改变判断标准。例如,该调节参数可以是一个在触发条件前的权重参数,如105%,随着报警次数的提高,调节参数持续上升(如每增加依次报警次数增加5%),从而使得触发条件不断的提高,以适应这一较短的采样周期,避免因采样周期的变化而导致误操作,发出报警提示影响用户对于手持智能终端的使用体验。例如,嘴巴张合次数的判断标准为:15x-18x;可以由调节参数x来调整嘴巴张合次数的判断标准。
该调节参数的变化与报警次数之间具有相关关系。该相关关系应当具有一定的指向性。在本实施例中的应用场景中,这样的相关关系应当为正相关,即调节参数是随着报警次数同时上升的,避免错误的反向调节。
为详细陈述本发明实施例提供的手持智能终端的防掉落方法,以下结合图1所示的应用环境进行具体描述。
首先,在用户20处于躺卧的情况下,用户20打开智能手机10进行操作。此时,智能手机10在屏幕被触发状态下,开始通过内置的重力传感器感应此时手机的屏幕朝向(即手机的使用方向)。智能手机10确认此时屏幕朝向为相对地面方向(如图1所示),并且维持特定的时间(如10min)后,开始进入检测状态。
其次,用户20可以在这一过程中持续的对智能手机10进行操作,或者进行一些交互,例如观看视频,浏览网页。智能手机10可以使用其内置的前置摄像头(或者扫描模块)来采集此时的用户面部图像信息。
采集获得用户面部图像信息可以进行一些预处理操作后再进行特征参数的提取。该预处理过程可以包括:通过例如使用边缘检测算子的识别模块,将用户的面部图像从采集的图像的背景中分离。当然,还可以包括例如高斯滤波、二值化等预处理方式。
智能手机10获取用户面部图像信息(如面部轮廓图像)后,可以提取、计算例如眼睑形状参数、嘴巴张合次数(通常可以代表打哈欠的次数)等。计算完成后,将眼睑形状参数、嘴巴张合次数等与预设的参数范围(即触发条件)进行比较,若属于这个参数范围(即满足触发条件的情况),智能手机10可以认为用户即将进入瞌睡状态,具有很好的概率发生智能手机掉落的情况。这一用户状态的判断情况可以反馈至智能手机10的控制器中。控制器接收到反馈信号后,可以控制智能手机发出报警提示(如发出声响、屏幕亮度改变)。在本应用场景中,可以使用一些经典的人脸识别算法,例如,维奥拉-琼斯算法(viola-johns)。
该算法是一个依赖于哈尔特征以及Adaboost训练强分类器的人脸识别算法。该算法对于人脸识别具有特别优秀的效果,虽然需要依赖于较大规模的训练数据完成训练集。这样的训练数据可以通过图1所示的网络40来获取,例如从互联网中搜索相关图像信息,或者从在线数据库中调用用户的历史面部图像信息。
应当说明的是,在这样的应用场景下,前置摄像头拍摄获得图像信息中,用户面部占据了图像信息中的较大面积,这样的采样数据是符合上述算法对于输入数据的要求,能够赋予该算法较好的运算准确度。
在上述智能手机10的检测过程中,用户20与智能手机10之间在不断的交互,智能手机10也可以采集这些交互信息,作为判断用户状态的辅助信息,以确定是否发出报警提示。
最后,智能手机10在交互过程中,发出报警提示从而提示用户将智能手机10放下或者停止使用智能手机10,避免掉落带来的安全风险或者损坏智能手机10。
在计算嘴巴张合次数时,可以通过与计算眼睑的形状参数相类似的方式以简化运算消耗的系统资源,如可以计算嘴张开时的纵轴和横轴半径。在达到预定的判断值时,可以记录为一次嘴巴张合。
在实际的情况中,可以在眼睑形状参数达到预设参数范围10~180秒后(进一步的,可以为60~120秒),反馈给控制器从而发出报警提示。
图5为本发明实施例的一种手持智能终端的防掉落装置。请参阅图5,该装置包括:图像信息采集模块100,参数特征提取模块200以及判断模块300。
该图像信息采集模块100用于以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像。参数特征提取模块200则用于提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征。判断模块300用于若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
该装置能够在用户的面部图像显示用户具有较高盖然性进入瞌睡状态或者其它睡眠程度导致智能终端跌落的情况下,及时的发出报警提示信息提示用户,用户可以采取相应的措施(如放下智能手机)从而避免用户在使用过程中,智能终端跌落而产生的安全风险或者导致智能终端的损毁。
图6为本发明另一实施例提供的手持智能终端的防掉落装置。请参阅图6,除图5所示的模块外,该装置还可以包括:防掉落状态确认模块400,用于获取手持智能终端的屏幕朝向;以及在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态;所述第一方向为与重力方向的夹角小于或等于110°的方向。
在本实施例中,所述面部参数特征可以包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数;所述眼睑形状参数包括用户面部图像中的眼睛图像的纵轴和横轴半径。
在应用过程中,上述面部特征参数与惯常使用的眨眼频率等相比,较为容易识别以及容易进行判断,精确度较高。这样能够有效的节约提取参数特征占用的系统资源,尤其对于计算能力较为有限的手持式智能终端而言。
在本实施例中,请继续参阅图6,所述判断模块300具体包括:分级标准预设单元310以及报警提示单元320。
所述分级标准预设单元310用于预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示。而报警提示单元320用于若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
通过将判断标准设置为不同的具有不同等级的分级标准,从而适应用户在实际情况中不同的睡眠状态的判断。根据用户的实际睡眠状态情况,发出相对应的报警提示,实现区别化对待。
在本实施例中,请继续参阅图6,该装置还可以包括周期调整模块500以及调节模块600。该周期调整模块500用于在发出报警提示后,缩短所述采集图像信息的预定的周期。标准调节模块600用于根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
在本发明实施例中,首先可以由图像信息采集模块100以预定的周期采集处于防掉落状态的手持智能终端的图像信息。然后通过参数特征提取模块200提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征。最后,使用判断模块300进行判断,若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。还可以进一步的使用防掉落状态确认模块400来确认手持式智能终端是否为防掉落状态,或者通过周期调整模块500以及调节模块600来调整采样周期以及判断标准。
图7是本发明实施例提供的防掉落方法的电子设备的硬件结构示意图。请参阅图7,该设备包括:
一个或多个处理器710以及存储器720,图7中以一个处理器710为例。
防掉落方法的设备还可以包括:输入装置730和输出装置740。处理器710、存储器720、输入装置730和输出装置740可以通过总线或者其他方式连接,图7中以通过总线连接为例。
存储器720作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本发明实施例中的弹幕处理方法对应的程序指令/模块(例如,附图5所示的图像信息采集模块100,参数特征提取模块200以及判断模块300,或者附图6所示的防掉落状态确认模块400)。处理器710通过运行存储在存储器720中的非易失性软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例防掉落方法。
存储器720可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据防掉落装置的使用所创建的数据等。此外,存储器720可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器720可选包括相对于处理器710远程设置的存储器,这些远程存储器可以通过网络连接至防掉落装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置730可接收输入的数字或字符信息,以及产生与防掉落装置的用户设置以及功能控制有关的键信号输入。输出装置740可包括显示屏等显示设备。
所述一个或者多个模块存储在所述存储器720中,当被所述一个或者多个处理器710执行时,执行上述任意方法实施例中的防掉落方法。
上述产品可执行本发明实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明实施例所提供的方法。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。所述的计算机软件可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体或随机存储记忆体等。
以上所述仅为本发明的实施方式,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (9)
1.一种手持智能终端的防掉落方法,其特征在于,包括:
当手持智能终端处于防掉落状态时,采集用户与所述手持智能终端之间的交互信息;所述交互信息作为判断用户状态的辅助信息;
所述防掉落状态为所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间的状态;所述第一方向为与重力方向的夹角小于或等于110°的方向;
以预定的周期采集所述处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;
提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;所述面部参数特征包括用户面部图像中的眼睛图像的纵轴和横轴半径;
根据所述面部参数特征是否满足触发条件以及所述辅助信息,确定是否发出报警提示;所述触发条件为与所述面部参数特征匹配的阈值;
在发出报警提示后,缩短所述采集图像信息的预定的周期;
根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取手持智能终端的屏幕朝向;
在所述手持智能终端的屏幕朝向为所述第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态。
3.根据权利要求1所述的方法,其特征在于,所述面部参数特征还包括:预定的第二时间内的嘴巴张合次数。
4.根据权利要求1所述的方法,其特征在于,所述面部参数特征是否满足触发条件,具体包括:
预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;
若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;
所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
5.一种手持智能终端的防掉落装置,其特征在于,当手持智能终端处于防掉落状态时,所述防掉落装置采集用户与所述手持智能终端之间的交互信息;所述交互信息作为判断用户状态的辅助信息;
所述防掉落状态为所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间的状态;所述第一方向为与重力方向的夹角小于或等于110°的方向;
所述防掉落装置包括:
图像信息采集模块,用于以预定的周期采集所述处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;
参数特征提取模块,用于提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;所述面部参数特征包括用户面部图像中的眼睛图像的纵轴和横轴半径;
判断模块,用于根据所述面部参数特征是否满足触发条件以及所述辅助信息,确定是否发出报警提示;所述触发条件为与所述面部参数特征匹配的阈值;
周期调整模块,用于在发出报警提示后,缩短所述采集图像信息的预定的周期;
标准调节模块,用于根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:防掉落状态确认模块,用于获取手持智能终端的屏幕朝向;以及在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态。
7.根据权利要求5所述的装置,其特征在于,所述面部参数特征还包括预定的第二时间内的嘴巴张合次数。
8.根据权利要求5所述的装置,其特征在于,所述判断模块具体包括:
分级标准预设单元,用于预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;
报警提示单元,若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
9.一种手持智能终端,其特征在于,包括:
至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令程序,所述指令程序被所述至少一个处理器执行,以使所述至少一个处理器能够:
当所述手持智能终端处于防掉落状态时,采集用户与所述手持智能终端之间的交互信息;所述交互信息作为判断用户状态的辅助信息;
所述防掉落状态为所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间的状态;所述第一方向为与重力方向的夹角小于或等于110°的方向;
以预定的周期采集所述处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;
提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征,所述面部参数特征包括用户面部图像中的眼睛图像的纵轴和横轴半径;以及根据所述面部参数特征是否满足触发条件以及所述辅助信息,确定是否发出报警提示;所述触发条件为与所述面部参数特征匹配的阈值;
在发出报警提示后,缩短所述采集图像信息的预定的周期;
根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610735473.5A CN106325514B (zh) | 2016-08-26 | 2016-08-26 | 一种手持智能终端的防掉落方法、装置及其电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610735473.5A CN106325514B (zh) | 2016-08-26 | 2016-08-26 | 一种手持智能终端的防掉落方法、装置及其电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106325514A CN106325514A (zh) | 2017-01-11 |
CN106325514B true CN106325514B (zh) | 2018-12-28 |
Family
ID=57791869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610735473.5A Active CN106325514B (zh) | 2016-08-26 | 2016-08-26 | 一种手持智能终端的防掉落方法、装置及其电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106325514B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107944355B (zh) * | 2017-11-13 | 2018-08-28 | 厦门云顶伟业信息技术有限公司 | 大数据采集和处理方法 |
CN108197006B (zh) * | 2018-01-23 | 2019-09-13 | Oppo广东移动通信有限公司 | 电子设备、跌落提示方法及相关产品 |
CN110138956B (zh) * | 2019-03-27 | 2022-01-14 | 努比亚技术有限公司 | 一种终端设备检测方法、终端设备及计算机可读存储介质 |
CN111265222A (zh) * | 2020-03-24 | 2020-06-12 | 孙孟良 | 一种icu患者非计划性拔管预警系统 |
CN112613386B (zh) * | 2020-12-18 | 2023-12-19 | 宁波大学科学技术学院 | 一种基于脑电波的监控方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102752458A (zh) * | 2012-07-19 | 2012-10-24 | 北京理工大学 | 一种驾驶员疲劳检测手机与检测单元 |
CN104503888A (zh) * | 2014-12-16 | 2015-04-08 | 小米科技有限责任公司 | 告警提示的方法及装置 |
CN105898043A (zh) * | 2016-03-31 | 2016-08-24 | 北京奇虎科技有限公司 | 一种基于用户行为状态进行提醒服务的方法及装置 |
-
2016
- 2016-08-26 CN CN201610735473.5A patent/CN106325514B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102752458A (zh) * | 2012-07-19 | 2012-10-24 | 北京理工大学 | 一种驾驶员疲劳检测手机与检测单元 |
CN104503888A (zh) * | 2014-12-16 | 2015-04-08 | 小米科技有限责任公司 | 告警提示的方法及装置 |
CN105898043A (zh) * | 2016-03-31 | 2016-08-24 | 北京奇虎科技有限公司 | 一种基于用户行为状态进行提醒服务的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN106325514A (zh) | 2017-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106325514B (zh) | 一种手持智能终端的防掉落方法、装置及其电子设备 | |
CN109976506B (zh) | 一种电子设备的唤醒方法、存储介质及机器人 | |
CN110766912B (zh) | 驾驶预警方法、设备及计算机可读存储介质 | |
WO2019134246A1 (zh) | 基于人脸识别的安全监控方法、装置及存储介质 | |
CN106446831B (zh) | 一种人脸识别方法及装置 | |
US9928717B2 (en) | Human body tumbling detection method and device and mobile terminal system | |
CN103434484B (zh) | 车载识别认证装置、移动终端、智能车钥控制系统及方法 | |
JP2020527657A (ja) | 車両及び車両用ドアの解錠制御方法、装置並びに車両用ドアの解錠システム | |
CN103714631B (zh) | 基于人脸识别的atm取款机智能监控系统 | |
WO2016127437A1 (zh) | 活体人脸验证方法及系统、计算机程序产品 | |
CN111699698A (zh) | 缓解眼疲劳方法及智能终端 | |
CN108986245A (zh) | 基于人脸识别的考勤方法及终端 | |
CN104504793A (zh) | 基于视频服务的智能门安全控制系统及方法 | |
WO2015158087A1 (zh) | 一种检测人眼健康状态的方法、装置及移动终端 | |
CN111126366B (zh) | 一种活体人脸的判别方法、装置、设备及存储介质 | |
CN110297536A (zh) | 一种控制方法及电子设备 | |
EP1868138A2 (en) | Method of tracking a human eye in a video image | |
CN105844128A (zh) | 身份识别方法和装置 | |
CN103220583A (zh) | 基于智能电视的检测用户疲劳度的系统及方法 | |
CN101211484A (zh) | 防止在atm取款时密码被偷窥的方法及装置 | |
WO2017133589A1 (zh) | 终端用户安全监护方法及装置 | |
CN109637097B (zh) | 学习状态监测方法、装置及智能设备 | |
CN103856614A (zh) | 一种避免移动终端误休眠方法及装置 | |
CN110612530A (zh) | 用于选择脸部处理中使用的帧的方法 | |
WO2017101226A1 (zh) | 一种判断用户视力疲劳的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |