CN108628449A - 设备控制方法、装置、电子设备及计算机可读存储介质 - Google Patents
设备控制方法、装置、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN108628449A CN108628449A CN201810373756.9A CN201810373756A CN108628449A CN 108628449 A CN108628449 A CN 108628449A CN 201810373756 A CN201810373756 A CN 201810373756A CN 108628449 A CN108628449 A CN 108628449A
- Authority
- CN
- China
- Prior art keywords
- target device
- image
- control
- control data
- true environment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开提供一种设备控制方法、装置、电子设备及计算机可读存储介质,所述方法包括:在采集的真实环境图像中识别处于真实环境中的目标设备;响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;根据所述控制数据生成包括所述运行项目的虚拟交互图像;基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;检测针对所述虚拟交互图像的控制操作;响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。本实施例中,通过显示虚拟交互图像,用户可以针对目标设备的运行项目便捷快速地向目标设备发出控制操作,从而实现利用增强现实设备控制其他电子设备的目的。
Description
技术领域
本公开涉及设备控制技术领域,尤其涉及设备控制方法、装置、电子设备及计算机可读存储介质。
背景技术
目前,智能设备的控制方式越来越智能化,以智能家居场景为例,空调、摄像头、冰箱或电视等智能设备可以接入路由器,在一些场景中,智能手机可以安装APP(Application,应用程序),用户手持智能手机,利用APP发出对智能设备的控制指令,控制指令通过路由器发送给智能设备,从而实现利用智能手机控制智能设备的目的。
发明内容
为克服相关技术中存在的问题,本公开提供了设备控制方法、装置、电子设备及计算机可读存储介质。
根据本公开实施例的第一方面,提供一种设备控制方法,应用于增强现实设备,所述方法包括:
在采集的真实环境图像中识别处于真实环境中的目标设备;
响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括所述运行项目的虚拟交互图像;
基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测针对所述虚拟交互图像的控制操作;
响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
可选的,所述在采集的真实环境图像中识别处于真实环境中的目标设备,包括:
从所述真实环境图像中识别出目标物体,提取所述目标物体的图像特征;
通过特征库,将与所述图像特征匹配的预设电子设备确定为所述目标设备;所述特征库中存储有多个预设电子设备的图像特征模型,所述图像特征模型由所述预设电子设备的图像特征生成。
可选的,所述获取所述目标设备的控制数据,包括:
确定匹配的预设电子设备的类型标识,获取与所述类型标识对应的控制数据作为所述目标设备的控制数据。
可选的,所述响应于识别出所述目标设备,获取所述目标设备的控制数据,包括:
响应于识别出所述目标设备,且允许与所述目标设备建立网络连接,获取所述目标设备的控制数据;
其中,所述允许与所述目标设备建立网络连接,至少包括:
允许与所述目标设备建立蓝牙连接;或,
与所述目标设备处于同一局域网中。
根据本公开实施例的第二方面,提供一种设备控制装置,应用于增强现实设备,所述装置包括:
设备识别模块,被配置为:在采集的真实环境图像中识别处于真实环境中的目标设备;
数据获取模块,被配置为:响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
图像生成模块,被配置为:根据所述控制数据生成包括所述运行项目的虚拟交互图像;
显示模块,被配置为:基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测模块,被配置为:检测针对所述虚拟交互图像的控制操作;
运行控制模块,被配置为:响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
可选的,所述设备识别模块,包括:
识别子模块,被配置为:从所述真实环境图像中识别出目标物体,提取所述目标物体的图像特征;
设备确定子模块,被配置为:通过特征库,将与所述图像特征匹配的预设电子设备确定为所述目标设备;所述特征库中存储有多个预设电子设备的图像特征模型,所述图像特征模型由所述预设电子设备的图像特征生成。
可选的,所述数据获取模块,包括:
第一获取子模块,被配置为:确定匹配的预设电子设备的类型标识,获取与所述类型标识对应的控制数据作为所述目标设备的控制数据。
可选的,所述数据获取模块,包括,被配置为:
第二获取子模块,被配置为:响应于识别出所述目标设备,且允许与所述目标设备建立网络连接,获取所述目标设备的控制数据;
其中,所述允许与所述目标设备建立网络连接,至少包括:
允许与所述目标设备建立蓝牙连接;或,
与所述目标设备处于同一局域网中。
根据本公开实施例的第三方面,提供一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
在采集的真实环境图像中识别处于真实环境中的目标设备;
响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括所述运行项目的虚拟交互图像;
基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测针对所述虚拟交互图像的控制操作;
响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述设备控制方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:
本公开中,增强现实设备从所拍摄的真实环境图像中可以识别出目标设备,并根据目标设备的控制数据生成包括有运行项目的虚拟交互图像,通过该虚拟交互图像,用户可以针对目标设备的运行项目便捷快速地向目标设备发出控制操作,从而实现利用增强现实设备控制其他电子设备的目的。
本公开中,从真实环境图像中提取图像特征,提取的图像特征可以与各个图像特征模型进行一一对比,确定与目标物体匹配的图像特征模型,将该匹配的图像特征模型对应的预设电子设备确定为所述目标设备,从而可以准确地从拍摄图像中识别出处于真实环境中可被控制的目标设备。
本公开中,以类型标识对各预设电子设备进行区分,在需要获取所述目标设备的控制数据时,可以通过类型标识获取到控制数据,该方式易于实现,且查找快速。
本公开中,通过判断蓝牙连接或判断是否连接至同一局域网的方式判断两者是否建立连接,该方式易于实现,且准确率高。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1A是本公开根据一示例性实施例示出的一种设备控制方法的应用场景图。
图1B是本公开根据一示例性实施例示出的一种设备控制方法的流程图。
图1C是本公开根据一示例性实施例示出的一种AR设备显示画面的示意图。
图2是本公开根据一示例性实施例示出的一种设备控制装置的框图。
图3是本公开根据一示例性实施例示出的另一种设备控制装置的框图。
图4是本公开根据一示例性实施例示出的另一种设备控制装置的框图。
图5是本公开根据一示例性实施例示出的另一种设备控制装置的框图。
图6是本公开根据一示例性实施例示出的一种用于设备控制装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在本公开使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本公开可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本公开范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
在已有实现中,智能设备的控制方式,一种常见的方式是智能设备的厂商提供APP给用户,由用户安装于智能手机中,用户利用APP向智能设备发出控制指令。此种方式需要用户手持智能手机并在手机上进行操作,指令发出过程较为繁琐,便利性较差。本公开实施例提供了一种设备控制方案,接下来结合图1A和图1B对本公开方案进行详细说明。
如图1A所示,图1A是本公开根据一示例性实施例示出的一种设备控制方案所应用的场景示意图,图1A中包括:
用户使用的增强现实(AR,Augmented Reality)设备,图1A中以智能眼镜为例作为说明,可以理解,实际应用中,增强现实设备还可以包括智能头盔等设备。AR技术是在虚拟现实的基础上发展起来的新技术,也被称之为混合现实。是通过计算机系统提供的信息增加用户对现实世界感知的技术。AR设备通常利用摄像头、传感器、实时计算和匹配技术,将虚拟的信息应用到真实环境,并将计算机生成的虚拟物体、场景或系统提示信息叠加到真实场景中,从而实现对现实的增强。
其他智能设备,图1A中以智能空调、风扇和加湿器为例作为说明,可以理解,实际应用中,结合具体应用场景,智能设备可以包括智能电视、空气净化器、插座或冰箱等等多种其他类型的电子设备。
如图1B所示,图1B是本公开根据一示例性实施例示出的一种设备控制方法的流程图,该方法可应用于图1A中的AR设备中,用户可以通过AR设备快速便捷地控制其他设备的运行。该方法可包括以下步骤:
在步骤101中,在采集的真实环境图像中识别处于真实环境中的目标设备。
在步骤102中,响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目。
在步骤103中,根据所述控制数据生成包括所述运行项目的虚拟交互图像。
在步骤104中,基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像。
在步骤105中,检测针对所述虚拟交互图像的控制操作;
在步骤106中,响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
AR设备中通常配置有摄像头、显示屏和处理模块,显示屏可以展示摄像头模块所拍摄的真实环境画面,通常,摄像头模块在拍摄真实环境画面时,可以生成连续的图像帧,AR设备可以从包含该真实环境画面的图像进行图像识别,以识别图像中是否包含有关注的对象,具体的识别过程可以采用已有的图像识别算法,例如基于SIFT(Scale-invariantfeature transform)/SURF(Speed Up Robust Features)特征的物体识别算法、基于haar(Haar-like features)特征的物体识别算法或基于广义霍夫变换的物体识别算法等等,实际应用中可以根据需要灵活选取物体识别算法,本公开对此不作限定。
在一个可选的实现方式中,为了提高图像识别效率,所述在采集的真实环境图像中识别处于真实环境中的目标设备,包括:
从所述真实环境图像中识别出目标物体,提取所述目标物体的图像特征;
通过特征库,将与所述图像特征匹配的预设电子设备确定为所述目标设备;所述特征库中存储有多个预设电子设备的图像特征模型,所述图像特征模型由所述预设电子设备的图像特征生成。
本公开实施例中,对于每类预设电子设备的图像,可以提取该图像的图像特征,例如颜色特征、纹理特征、形状特征或空间关系特征等等。
举例来说,颜色特征是一种全局特征,描述了图像或图像区域所对应的景物的表面性质。
纹理特征也是一种全局特征,它描述了图像或图像区域所对应景物的表面性质。与颜色特征不同,纹理特征不是基于像素点的特征,它需要在包含多个像素点的区域中进行统计计算。
形状特征有两类表示方法,一类是轮廓特征,另一类是区域特征。图像的轮廓特征主要针对物体的外边界,而图像的区域特征则关系到整个形状区域。
空间关系特征中,空间关系是指图像中分割出来的多个目标之间的相互的空间位置或相对方向关系,这些关系也可分为连接/邻接关系、交叠/重叠关系和包含/包容关系等。通常空间位置信息可以分为两类:相对空间位置信息和绝对空间位置信息。前一种关系强调的是目标之间的相对情况,如上下左右关系等,后一种关系强调的是目标之间的距离大小以及方位。
实际应用中,可以根据需要灵活选取图像特征,并预先准备预设电子设备的图像,提取每类预设电子设备的图像特征,将每类预设电子设备的一个或多个图像特征进行组合,以构成该预设电子设备的图像特征模型。当获取到真实环境图像,可以先利用物体识别算法识别出该图像中是否包含有目标物体,在包含有目标物体的情况下,通过图像特征提取算法,从拍摄图像中提取图像特征,提取的图像特征可以与各个图像特征模型进行一一对比,从而确定与所述目标物体匹配的图像特征模型,将匹配的图像特征模型对应的预设电子设备确定为该目标设备,从而可以准确地从拍摄图像中识别出处于真实环境中、可由AR设备控制的目标设备。
通过上述方式,本实施例可以从预设的多个图像特征模型中查找与所述目标物体匹配的图像特征模型;其中,由于每个所述图像特征模型对应一类预设电子设备,并利用所述预设电子设备的图像特征而生成,因此,可以将与所述目标物体匹配的图像特征模型对应的预设电子设备,作为所述处于真实环境中的目标设备,因此本实施例可以快速地识别出目标设备,提高设备控制速度。
可以理解,每类设备都提供有可被用户配置的运行项目,本实施例可以预先准备各类设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目。
举例来说,智能空调可被配置的运行项目包括有:开/关、选择运行模式(制冷、干燥或热风等)、选择风量或定时等等。
空气净化器可被配置的运行项目包括有:开/关、选择净化档次或定时等等。
风扇可被配置的运行项目包括有:开/关、选择风量、选择是否旋转或定时等等。
每类预设电子设备的控制数据可以预先存储,并以类型标识进行区分。可选的,这些控制数据可以存储于AR设备内的存储区域,也可以存储于能与AR设备通信的其他设备中,例如AR设备对应的服务器、或者是为AR设备提供网络通信的路由器等其他设备中。可选的,控制数据可以采用html(Hyper Text Markup Language)格式进行存储,当AR设备从拍摄画面中确定有预设电子设备的图像相匹配后,可以查找出匹配的预设电子设备的类型标识,之后获取与所述类型标识对应的控制数据作为所述目标设备的控制数据。
至此,AR设备获取拍摄画面中目标设备的控制数据,为了供用户快捷便利地对目标设备进行控制,AR设备利用控制数据生成包括有所述运行项目的虚拟交互图像,基于所述目标设备的位置,可以在所述真实环境图像中显示所述虚拟交互图像。作为一个实施例,虚拟交互图像中可以包含有各个所述运行项目,并向用户提供有选择功能,该虚拟交互图像可以叠加显示在真实环境图像中目标设备的一侧,用户可以触发选中运行项目,从而AR设备可以通过所述虚拟交互图像,检测针对所述虚拟交互图像的控制操作,获取针对所述运行项目的配置指令,并响应于检测到所述控制操作,控制所述目标设备的运行。
其中,具体的供用户触发发出控制操作的实现方式,在现有实现中,AR设备所提供的用户交互方式可以有多种,例如动作捕捉、语音交互、触觉反馈、眼球跟踪或手势跟踪等等多种方式,实际应用中可以结合具体所采用的AR设备所提供的功能而灵活确定,本公开实施例对此不作限定。
由于涉及对目标设备的控制,AR设备需要确定所识别出的目标设备可被AR设备进行控制。因此,所述响应于识别出所述目标设备,获取所述目标设备的控制数据,可以包括:响应于识别出所述目标设备,且允许与所述目标设备建立网络连接,获取所述目标设备的控制数据。作为一个例子,可以是AR设备和目标设备都接入同一服务端,通过服务端向目标设备发出控制操作,以使目标设备接收到控制操作后进行运行,从而实现由AR设备控制目标设备运行的目的。在其他例子中,还可以判断AR设备是否允许与所述目标设备建立网络连接,若能与所述目标设备建立网络连接,确定目标设备可被控制,此种方式下,AR设备和目标设备不需要通过服务端进行指令转发,其传输过程更快,设备控制效率更高。其中,该允许与所述目标设备建立网络连接的实现方式可以有多种,例如可以是允许与所述目标设备建立蓝牙连接;或者是与所述目标设备处于同一局域网中。上述网络连接可以预先由用户配置而建立,也可以在设备控制过程中AR设备识别出目标设备后再建立,具体实现方式可以灵活选择。
接下来通过一具体实施例对本公开方案进行详细说明。
假设M厂商的产品包括有30类智能设备,涵盖有智能电视(包括5种型号)、智能冰箱(包括3种型号)、空调(包括4种型号)、空气净化器(包括2种型号)或加湿器等等。例如,同为空调,但每种型号设备可被配置的运行项目可能不同,通过分析每类设备的功能,预先准备每类设备的控制数据。如下表格所示,由于篇幅有限,表1只示出了部分设备的控制数据。
表1
其中,上述控制数据以类型标识作为区分,并记录有设备名称和型号,以及每类设备的运行项目。可选的,这些控制数据可以以html格式进行存储。
可选的,本实施例还针对每类预设电子设备拍摄有图像,并对预设电子设备的图像进行图像特征提取,基于所提取的图像特征,为每类预设电子设备的图像建立有图像特征模型,各图像特征模型也可以以对应设备的类型标识作为区分。
如图1A所示实施例,当用户佩戴AR设备时,AR设备的摄像头可以实时拍摄真实环境图像,利用物体识别算法从拍摄图像识别出该图像中是否包括有目标物体,接着,从预设的多个图像特征模型中查找与所述目标物体匹配的图像特征模型,确定与所述目标物体匹配的图像特征模型对应的预设电子设备,将该对应的预设电子设备作为所述处于真实环境中的目标设备。
进一步的,AR设备通过蓝牙搜索周边设备,并通过蓝牙与该目标设备建立了网络连接,从而确定该目标设备可被控制。
图1C是本公开根据一示例性实施例示出的一种AR设备显示画面的示意图,图1C中以识别出风扇为例,AR设备获取该风扇的控制数据,利用控制数据生成了虚拟交互图像,并在所述目标设备的位置的旁边显示在所述真实环境图像中。用户可以通过所述虚拟交互图像发出控制操作,AR设备检测到控制操作后,可以通过网络连接控制目标设备的运行。作为示例,AR设备可以针对控制操作,生成该控制操作所对应的运行项目的配置指令,并将配置指令发送给目标设备,目标设备接收到配置指令后,可以配置运行项目,从而达到控制所述目标设备的运行的目的。
与前述设备控制方法的实施例相对应,本公开还提供了设备控制装置及其所应用的电子设备的实施例。
如图2所示,图2是本公开根据一示例性实施例示出的一种设备控制装置的框图,所述装置包括:
设备识别模块21,被配置为:在采集的真实环境图像中识别处于真实环境中的目标设备;
数据获取模块22,被配置为:响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
图像生成模块23,被配置为:根据所述控制数据生成包括所述运行项目的虚拟交互图像;
显示模块24,被配置为:基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测模块25,被配置为:检测针对所述虚拟交互图像的控制操作;
运行控制模块26,被配置为:响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
由上述实施例可见,增强现实设备从所拍摄的真实环境图像中可以识别出目标设备,并根据目标设备的控制数据生成包括有运行项目的虚拟交互图像,通过该虚拟交互图像,用户可以针对目标设备的运行项目便捷快速地向目标设备发出控制操作,从而实现利用增强现实设备控制其他电子设备的目的。
如图3所示,图3是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述设备识别模块21,包括:
识别子模块211,被配置为:从所述真实环境图像中识别出目标物体,提取所述目标物体的图像特征;
设备确定子模块212,被配置为:通过特征库,将与所述图像特征匹配的预设电子设备确定为所述目标设备;所述特征库中存储有多个预设电子设备的图像特征模型,所述图像特征模型由所述预设电子设备的图像特征生成。
由上述实施例可见,从拍摄图像中提取图像特征,提取的图像特征可以与各个图像特征模型进行一一对比,与目标物体匹配的图像特征模型对应的预设电子设备可以确定为所述处于真实环境中的目标设备,从而可以准确地从拍摄图像中识别出处于真实环境中可被控制的目标设备。
如图4所示,图4是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述数据获取模块22,包括:
第一获取子模块221,用于:确定匹配的预设电子设备的类型标识,获取与所述类型标识对应的控制数据作为所述目标设备的控制数据。
由上述实施例可见,以类型标识对各预设电子设备进行区分,在需要获取所述目标设备的控制数据时,可以通过类型标识获取到控制数据,该方式易于实现,且查找快速。
如图5所示,图5是本公开根据一示例性实施例示出的另一种设备控制装置的框图,该实施例在前述图2所示实施例的基础上,所述数据获取模块22,包括:
第二获取子模块222,被配置为:响应于识别出所述目标设备,且允许与所述目标设备建立网络连接,获取所述目标设备的控制数据;
其中,所述允许与所述目标设备建立网络连接,包括如下一种或多种方式:
允许与所述目标设备建立蓝牙连接;或,
与所述目标设备处于同一局域网中。
由上述实施例可见,通过判断蓝牙连接或判断是否连接至同一局域网的方式,判断是否允许与目标设备建立网络连接,该方式易于实现,且准确率高。
相应的,本公开还提供一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
在采集的真实环境图像中识别处于真实环境中的目标设备;
响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括所述运行项目的虚拟交互图像;
基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测针对所述虚拟交互图像的控制操作;
响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
上述设备控制装置中各个模块的功能和作用的实现过程具体详见上述设备控制方法中对应步骤的实现过程,在此不再赘述。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本公开方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
图6是根据一示例性实施例示出的一种设备控制装置的结构示意图。
如图6所示,根据一示例性实施例示出的一种设备控制装置600,该装置600可以是智能眼镜、智能头盔等AR设备。
参照图6,装置600可以包括以下一个或多个组件:处理组件601,存储器602,电源组件603,多媒体组件604,音频组件605,输入/输出(I/O)的接口606,传感器组件607,以及通信组件608。
处理组件601通常控制装置600的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件601可以包括一个或多个处理器609来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件601可以包括一个或多个模块,便于处理组件601和其它组件之间的交互。例如,处理部件601可以包括多媒体模块,以方便多媒体组件604和处理组件601之间的交互。
存储器602被配置为存储各种类型的数据以支持在装置600的操作。这些数据的示例包括用于在装置600上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器602可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件603为装置600的各种组件提供电力。电源组件603可以包括电源管理系统,一个或多个电源,及其它与为装置600生成、管理和分配电力相关联的组件。
多媒体组件604包括在所述装置600和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件604包括一个前置摄像头和/或后置摄像头。当装置600处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件605被配置为输出和/或输入音频信号。例如,音频组件605包括一个麦克风(MIC),当装置600处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器602或经由通信组件608发送。在一些实施例中,音频组件605还包括一个扬声器,用于输出音频信号。
I/O接口602为处理组件601和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件607包括一个或多个传感器,用于为装置600提供各个方面的状态评估。例如,传感器组件607可以检测到装置600的打开/关闭状态,组件的相对定位,例如所述组件为装置600的显示器和小键盘,传感器组件607还可以检测装置600或装置600一个组件的位置改变,用户与装置600接触的存在或不存在,装置600方位或加速/减速和装置600的温度变化。传感器组件607可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件607还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件607还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件608被配置为便于装置600和其它设备之间有线或无线方式的通信。装置600可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件608经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件608还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其它技术来实现。
在示例性实施例中,装置600可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其它电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器602,上述指令可由装置600的处理器609执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
其中,当所述存储介质中的指令由所述处理器执行时,使得装置600能够执行一种设备控制方法,包括:
在采集的真实环境图像中识别处于真实环境中的目标设备;
响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括所述运行项目的虚拟交互图像;
基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测针对所述虚拟交互图像的控制操作;
响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
以上所述仅为本公开的较佳实施例而已,并不用以限制本公开,凡在本公开的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本公开保护的范围之内。
Claims (10)
1.一种设备控制方法,应用于增强现实设备,其特征在于,所述方法包括:
在采集的真实环境图像中识别处于真实环境中的目标设备;
响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括所述运行项目的虚拟交互图像;
基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测针对所述虚拟交互图像的控制操作;
响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
2.根据权利要求1所述的方法,其特征在于,所述在采集的真实环境图像中识别处于真实环境中的目标设备,包括:
从所述真实环境图像中识别出目标物体,提取所述目标物体的图像特征;
通过特征库,将与所述图像特征匹配的预设电子设备确定为所述目标设备;所述特征库中存储有多个预设电子设备的图像特征模型,所述图像特征模型由所述预设电子设备的图像特征生成。
3.根据权利要求2所述的方法,其特征在于,所述获取所述目标设备的控制数据,包括:
确定匹配的预设电子设备的类型标识,获取与所述类型标识对应的控制数据作为所述目标设备的控制数据。
4.根据权利要求1所述的方法,其特征在于,所述响应于识别出所述目标设备,获取所述目标设备的控制数据,包括:
响应于识别出所述目标设备,且允许与所述目标设备建立网络连接,获取所述目标设备的控制数据;
其中,所述允许与所述目标设备建立网络连接,至少包括:
允许与所述目标设备建立蓝牙连接;或,
与所述目标设备处于同一局域网中。
5.一种设备控制装置,应用于增强现实设备,其特征在于,所述装置包括:
设备识别模块,被配置为:在采集的真实环境图像中识别处于真实环境中的目标设备;
数据获取模块,被配置为:响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
图像生成模块,被配置为:根据所述控制数据生成包括所述运行项目的虚拟交互图像;
显示模块,被配置为:基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测模块,被配置为:检测针对所述虚拟交互图像的控制操作;
运行控制模块,被配置为:响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
6.根据权利要求5所述的装置,其特征在于,所述设备识别模块,包括:
识别子模块,被配置为:从所述真实环境图像中识别出目标物体,提取所述目标物体的图像特征;
设备确定子模块,被配置为:通过特征库,将与所述图像特征匹配的预设电子设备确定为所述目标设备;所述特征库中存储有多个预设电子设备的图像特征模型,所述图像特征模型由所述预设电子设备的图像特征生成。
7.根据权利要求6所述的装置,其特征在于,所述数据获取模块,包括:
第一获取子模块,被配置为:确定匹配的预设电子设备的类型标识,获取与所述类型标识对应的控制数据作为所述目标设备的控制数据。
8.根据权利要求5所述的装置,其特征在于,所述数据获取模块,包括,被配置为:
第二获取子模块,被配置为:响应于识别出所述目标设备,且允许与所述目标设备建立网络连接,获取所述目标设备的控制数据;
其中,所述允许与所述目标设备建立网络连接,至少包括:
允许与所述目标设备建立蓝牙连接;或,
与所述目标设备处于同一局域网中。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
在采集的真实环境图像中识别处于真实环境中的目标设备;
响应于识别出所述目标设备,获取所述目标设备的控制数据,所述控制数据指示所述目标设备可被配置的运行项目;
根据所述控制数据生成包括所述运行项目的虚拟交互图像;
基于所述目标设备的位置在所述真实环境图像中显示所述虚拟交互图像;
检测针对所述虚拟交互图像的控制操作;
响应于检测到所述控制操作,控制所述目标设备基于所述控制操作运行。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1至4任一所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810373756.9A CN108628449A (zh) | 2018-04-24 | 2018-04-24 | 设备控制方法、装置、电子设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810373756.9A CN108628449A (zh) | 2018-04-24 | 2018-04-24 | 设备控制方法、装置、电子设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108628449A true CN108628449A (zh) | 2018-10-09 |
Family
ID=63694304
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810373756.9A Pending CN108628449A (zh) | 2018-04-24 | 2018-04-24 | 设备控制方法、装置、电子设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108628449A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110109364A (zh) * | 2019-03-25 | 2019-08-09 | 深圳绿米联创科技有限公司 | 设备控制方法、装置、摄像机以及存储介质 |
CN111258420A (zh) * | 2020-01-13 | 2020-06-09 | 维沃移动通信有限公司 | 信息交互方法、头戴式设备及介质 |
CN111626183A (zh) * | 2020-05-25 | 2020-09-04 | 深圳市商汤科技有限公司 | 一种目标对象展示方法及装置、电子设备和存储介质 |
CN112783316A (zh) * | 2019-11-08 | 2021-05-11 | 浙江商汤科技开发有限公司 | 基于增强现实的控制方法及装置、电子设备和存储介质 |
CN113946265A (zh) * | 2021-09-29 | 2022-01-18 | 北京五八信息技术有限公司 | 一种数据处理方法、装置、电子设备及存储介质 |
CN114338897A (zh) * | 2021-12-16 | 2022-04-12 | 杭州逗酷软件科技有限公司 | 对象的分享方法、装置、电子设备以及存储介质 |
CN114461065A (zh) * | 2022-01-25 | 2022-05-10 | 北京声智科技有限公司 | 电子设备的控制方法、装置、设备及计算机可读存储介质 |
CN114489893A (zh) * | 2022-01-12 | 2022-05-13 | 深圳绿米联创科技有限公司 | 设备控制方法、装置、系统、电子设备和存储介质 |
CN115268726A (zh) * | 2021-04-30 | 2022-11-01 | 北京小米移动软件有限公司 | 智能设备的控制方法、装置、终端设备及存储介质 |
CN115453903A (zh) * | 2022-09-21 | 2022-12-09 | 歌尔科技有限公司 | 一种智能家居控制方法、装置、可穿戴设备及存储介质 |
WO2024041429A1 (zh) * | 2022-08-22 | 2024-02-29 | 华为技术有限公司 | 一种任务接续方法、设备及系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110134574A (ko) * | 2010-06-09 | 2011-12-15 | 유빈스 주식회사 | 영상 입출력 기기를 통한 증강현실 시스템 및 그 제공 방법 |
US20130083173A1 (en) * | 2011-09-30 | 2013-04-04 | Kevin A. Geisner | Virtual spectator experience with a personal audio/visual apparatus |
CN106200897A (zh) * | 2016-06-23 | 2016-12-07 | 海信集团有限公司 | 一种显示控制菜单的方法和装置 |
CN106468993A (zh) * | 2016-08-29 | 2017-03-01 | 乐视控股(北京)有限公司 | 虚拟现实终端设备的控制方法及装置 |
CN106980361A (zh) * | 2015-10-07 | 2017-07-25 | 株式会社理光 | 信息处理装置以及信息处理方法 |
CN107506037A (zh) * | 2017-08-23 | 2017-12-22 | 三星电子(中国)研发中心 | 一种基于增强现实的控制设备的方法和装置 |
CN107703872A (zh) * | 2017-10-31 | 2018-02-16 | 美的智慧家居科技有限公司 | 家电设备的终端控制方法、装置及终端 |
-
2018
- 2018-04-24 CN CN201810373756.9A patent/CN108628449A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110134574A (ko) * | 2010-06-09 | 2011-12-15 | 유빈스 주식회사 | 영상 입출력 기기를 통한 증강현실 시스템 및 그 제공 방법 |
US20130083173A1 (en) * | 2011-09-30 | 2013-04-04 | Kevin A. Geisner | Virtual spectator experience with a personal audio/visual apparatus |
CN106980361A (zh) * | 2015-10-07 | 2017-07-25 | 株式会社理光 | 信息处理装置以及信息处理方法 |
CN106200897A (zh) * | 2016-06-23 | 2016-12-07 | 海信集团有限公司 | 一种显示控制菜单的方法和装置 |
CN106468993A (zh) * | 2016-08-29 | 2017-03-01 | 乐视控股(北京)有限公司 | 虚拟现实终端设备的控制方法及装置 |
CN107506037A (zh) * | 2017-08-23 | 2017-12-22 | 三星电子(中国)研发中心 | 一种基于增强现实的控制设备的方法和装置 |
CN107703872A (zh) * | 2017-10-31 | 2018-02-16 | 美的智慧家居科技有限公司 | 家电设备的终端控制方法、装置及终端 |
Non-Patent Citations (1)
Title |
---|
王冲主编: "《现代信息检索技术基本原理教程》", 30 November 2013, 西安电子科技大学出版社 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110109364A (zh) * | 2019-03-25 | 2019-08-09 | 深圳绿米联创科技有限公司 | 设备控制方法、装置、摄像机以及存储介质 |
CN112783316A (zh) * | 2019-11-08 | 2021-05-11 | 浙江商汤科技开发有限公司 | 基于增强现实的控制方法及装置、电子设备和存储介质 |
CN111258420A (zh) * | 2020-01-13 | 2020-06-09 | 维沃移动通信有限公司 | 信息交互方法、头戴式设备及介质 |
CN111626183A (zh) * | 2020-05-25 | 2020-09-04 | 深圳市商汤科技有限公司 | 一种目标对象展示方法及装置、电子设备和存储介质 |
CN111626183B (zh) * | 2020-05-25 | 2024-07-16 | 深圳市商汤科技有限公司 | 一种目标对象展示方法及装置、电子设备和存储介质 |
CN115268726A (zh) * | 2021-04-30 | 2022-11-01 | 北京小米移动软件有限公司 | 智能设备的控制方法、装置、终端设备及存储介质 |
CN113946265A (zh) * | 2021-09-29 | 2022-01-18 | 北京五八信息技术有限公司 | 一种数据处理方法、装置、电子设备及存储介质 |
CN114338897B (zh) * | 2021-12-16 | 2024-01-16 | 杭州逗酷软件科技有限公司 | 对象的分享方法、装置、电子设备以及存储介质 |
CN114338897A (zh) * | 2021-12-16 | 2022-04-12 | 杭州逗酷软件科技有限公司 | 对象的分享方法、装置、电子设备以及存储介质 |
CN114489893A (zh) * | 2022-01-12 | 2022-05-13 | 深圳绿米联创科技有限公司 | 设备控制方法、装置、系统、电子设备和存储介质 |
CN114461065A (zh) * | 2022-01-25 | 2022-05-10 | 北京声智科技有限公司 | 电子设备的控制方法、装置、设备及计算机可读存储介质 |
WO2024041429A1 (zh) * | 2022-08-22 | 2024-02-29 | 华为技术有限公司 | 一种任务接续方法、设备及系统 |
CN115453903A (zh) * | 2022-09-21 | 2022-12-09 | 歌尔科技有限公司 | 一种智能家居控制方法、装置、可穿戴设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108628449A (zh) | 设备控制方法、装置、电子设备及计算机可读存储介质 | |
CN105138123B (zh) | 设备控制方法及装置 | |
CN110850593B (zh) | 移动设备和通过移动设备配对电子设备的方法 | |
CN107703872B (zh) | 家电设备的终端控制方法、装置及终端 | |
EP3131235B1 (en) | Method and apparatus for controlling device | |
CN105138126B (zh) | 无人机的拍摄控制方法及装置、电子设备 | |
RU2597232C1 (ru) | Способ предоставления видео в режиме реального времени и устройство для его осуществления, а также сервер и терминальное устройство | |
CN105828201B (zh) | 视频处理方法及装置 | |
US9204131B2 (en) | Remote control system | |
CN105119958B (zh) | 控制智能设备的方法及装置 | |
CN105259765A (zh) | 生成控制界面的方法及装置 | |
WO2021135678A1 (zh) | 生成剪辑模板的方法、装置、电子设备及存储介质 | |
CN105279898A (zh) | 报警方法及装置 | |
CN103853913A (zh) | 操作增强现实内容的方法及支持该方法的装置和系统 | |
CN107800945A (zh) | 全景拍照的方法及装置、电子设备 | |
CN106506448A (zh) | 直播显示方法、装置及终端 | |
CN106990894B (zh) | 智能设备的控制方法及装置 | |
KR20150131815A (ko) | 이동 단말기 및 이의 제어 방법 | |
CN110958465A (zh) | 视频流推送方法、装置及存储介质 | |
CN106412710A (zh) | 直播中通过图形标签进行信息交互的方法及装置 | |
CN108108671A (zh) | 产品说明信息获取方法及装置 | |
CN107132769A (zh) | 智能设备控制方法及装置 | |
CN108346179A (zh) | Ar设备显示方法和装置 | |
CN106954093A (zh) | 全景视频处理方法、装置及系统 | |
CN105975428A (zh) | 字符的显示方法、装置及终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181009 |