CN100389013C - 基于多信息融合的仿人型机器人作业场景重构方法 - Google Patents
基于多信息融合的仿人型机器人作业场景重构方法 Download PDFInfo
- Publication number
- CN100389013C CN100389013C CNB2005100599150A CN200510059915A CN100389013C CN 100389013 C CN100389013 C CN 100389013C CN B2005100599150 A CNB2005100599150 A CN B2005100599150A CN 200510059915 A CN200510059915 A CN 200510059915A CN 100389013 C CN100389013 C CN 100389013C
- Authority
- CN
- China
- Prior art keywords
- robot
- scene
- data
- model
- operator
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title description 7
- 230000004927 fusion Effects 0.000 title description 2
- 230000008859 change Effects 0.000 claims abstract description 8
- 238000001514 detection method Methods 0.000 claims description 5
- 230000007613 environmental effect Effects 0.000 claims description 3
- 230000000007 visual effect Effects 0.000 claims description 2
- 230000008034 disappearance Effects 0.000 claims 1
- 238000005259 measurement Methods 0.000 claims 1
- 238000007500 overflow downdraw method Methods 0.000 claims 1
- 230000001052 transient effect Effects 0.000 claims 1
- 230000033001 locomotion Effects 0.000 abstract description 14
- 238000004088 simulation Methods 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 4
- 241000282412 Homo Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
Images
Landscapes
- Manipulator (AREA)
Abstract
本发明构建的仿人型机器人作业场景是一种结合操作者控制命令和反馈信息的实时视频图像。场景中能够实时显示作业现场的仿人型机器人模型及其作业环境模型。场景能够接收仿人型机器人作业现场的位置信息及机器人运行中的传感信息。使用以上信息驱动仿人型机器人模型及其环境模型运动以显示实时视频图像。同时场景根据操作者发出的命令进行预测仿真,生成理想情况下的仿人型机器人运行数据及各个模型的位置数据。在实时反馈信息缺失或者无法获取时,使用预测仿真所生成的数据来驱动模型。操作者可以任意改变视角,实现全视角的观察。
Description
所属技术领域:
本发明属于机器人领域,主要用于对仿人型机器人作业场景进行三维重构。它适用于机器人遥操作控制,可以实时显示仿人型机器人及其作业场景中的物体的三维图像,为仿人型机器人遥操作提供视觉临场感。
背景技术:
仿人型机器人,就是一种具有人类外观特征、可模拟人类基本动作的机器人。遥操作是机器人应用的一个重要技术。通过遥操作平台,操作人员可以监视和控制远方机器人完成各种作业任务,从而使仿人型机器人能够代替人类在一些无法触及的、甚至一些危及人类健康或生命安全的环境下完成各种任务。
作业环境的图像显示是遥操作控制的一项关键技术。目前作业环境的图像显示,主要采用现场二维视频图像和基于操作者命令的三维立体虚拟场景两种方式。
现场二维视频图像方式,是在机器人作业现场安装多个视频摄像机,对机器人及其作业现场进行视频摄像。视频图像经过网络传输到操作者端,在计算机上显示。这样的图像是机器人作业的真实场景,能够真实反映机器人作业的情况。但是存在以下缺点:1)不能提供三维信息,因此实际的三维位置操作难以实现;2)视角有限,在机器人作业现场安装的摄像机,位置固定,无法提供全面的观察视角;3)较大时延,在网络中传输的视频图像文件数据量比较大,在网络带宽的有限情况下,传输过程存在较大的时延。
基于操作者命令的三维立体虚拟场景的基本原理是,操作者向机器人发出的各种操作指令,假定机器人正确执行并产生相应的运动,为了描述这种运动,在操作者端的计算机上,使用三维建模软件,建立基于操作者指令的机器人运动模型和三维虚拟图像,产生预测仿真的效果。这样的图像是对机器人执行命令过程的预测,可以提供给操作者形象的作业场景。另外,由于使用三维建模软件制作,操作者可以很方便的改变观察角度。但存在以下缺点:这样的系统提供给操作者的是对机器人及其作业现场的预测和仿真,不能够真实反映机器人的作业情况。
发明内容:
本发明结合操作者控制命令、仿人型机器人自身的传感器检测信息以及环境检测信息构建一个作业环境的三维立体场景。
本发明采用的技术方案是:
本发明构建的仿人型机器人作业场景是一种结合操作命令和反馈信息的实时视频图像。场景能够实时显示仿人型机器人模型和机器人作业现场的环境模型。
场景能够接收仿人型机器人作业现场的位置信息及机器人运行中的传感信息。使用以上信息驱动仿人型机器人模型及其环境模型运动以显示实时视频动画图像。同时场景接收操作者发出的命令并进行预测,生成理想情况下的机器人运行数据及各个模型的位置数据。在实时反馈信息缺失或者无法获取时,使用预测所生成的数据来驱动模型。
操作者可以任意改变视角,实现全视角的观察。
其主要技术方案为:
使用三维建模软件,制作仿人型机器人的作业现场各类物体的三维模型,模型具有与实际物体相同的外形特征。同时建立与模型匹配的数据处理模块。数据处理模块可以接收多种信息,经过匹配处理来驱动作业场景中的模型运动。
仿人型机器人作业场景的模型主要有两种:环境模型和仿人型机器人模型。
(1)使用三维建模软件制作结构已知的机器人作业场所中的环境模型。环境模型具有与实际物体相同的外形特征和位置关系。可以实现全视角观察。
(2)使用三维建模软件制作仿人型机器人模型。模型具有与机器人相同的外形几何特征及自由度设置,满足仿人机器人多连杆机构运动学约束条件。仿人型机器人模型接收位置数据在场景中定位。模型接收各个自由度的关节角度数据来驱动各个连杆之间的角度变化,表现仿人型机器人的运动。
在机器人作业现场安装位置传感器,实时测量机器人及其作业目标的位置,输出测量得到的三维坐标数据。机器人身体各关节安装有角度传感器,可以实时测量机器人身体各个关节所连接的连杆之间的相对角度数据。
数据处理模块主要实现以下功能:
(1)接收机器人在其作业环境的位置数据,将机器人模型在作业场所环境模型中定位。
(2)接收机器人身体各个关节所连接的连杆之间的相对角度数据,将其匹配到机器人模型,驱动模型的各个连杆之间运动来表达机器人的运动。
(3)接收操作者发出的命令,进行命令解释。按照命令生成机器人作业的理想运动轨迹,对机器人的运行数据进行预测。可生成的运动轨迹包括机器人在命令执行过程中关节角度数据变化轨迹,机器人的位置数据变化轨迹。在理想情况下,这些数据与机器人作业现场反馈的数据相同。
场景在工作的过程中,数据处理模块正常情况下实时接收来自机器人工作现场的数据来驱动各类模型运动。在现场数据临时缺失的情况下,使用操作者发出命令的仿真预测生成的预测数据来驱动各类模型的运动,维持模型运动的连续性。
本发明的有益效果是:
1.融合多种信息实时显示机器人作业现场的动画图像。场景中各个模型的驱动使用现场反馈的数据,在现场反馈数据暂时缺失的情况下,使用命令预测数据进行显示,保持显示的连续性。
2.全视角观察图像。操作者可以任意改变观察视角,观察场景的细节。
附图说明:
图1是基于多信息融合的仿人型机器人作业场景工作原理图
具体实施方式:
整个仿人型机器人工作场景工作过程如下:
第一步,机器人开始运行,遥操作控制开始。启动计算机程序,显示已经建立好的场景模型。使用初始化数据确定机器人模型及其操作目标模型初始位置,确定机器人模型的连杆之间的初始角度。这一步所生成的是场景的初始化界面。
第二步,场景数据处理模块实时接收遥操作者发出的操作命令,解释生成预测轨迹数据。使用预测数据来驱动虚拟场景中的各个模型,以构成三维虚拟场景。这一步所生成的场景能够显示,机器人执行操作者发出命令的理想运动图像。
第三步,机器人本身的传感器实时测量各关节角数据,经遥操作平台传输到场景的数据处理模块。数据处理模块停止使用预测关节角度数据,改为使用真实关节角数据驱动模型表达机器人自身的运动。此时,三维虚拟场景中的机器人模型,能够真实的表达机器人在作业现场的运行状态。
第四步,机器人作业现场的环境检测传感器开始运行,获取到机器人及其作业目标的位置数据。以上数据经过遥操作平台传输到场景的数据处理模块。数据模块使用以上数据为机器人模型及其环境模型进行定位。此时,三维场景能够真实的表现出作业现场中机器人及其环境的位置关系。
同时使用机器人自身传感器反馈数据和环境检测位置传感器反馈数据,来驱动机器人及其作业环境的模型的三维虚拟场景,能够真实表达机器人的运行状态及其在环境中的位置信息。其中,在现场反馈暂时缺失的情况下,场景数据处理模块能够自动选择由命令预测生成的轨迹数据,来驱动各类模型。当重新获取到反馈数据后,切换到由真实数据驱动模型的三维虚拟场景。
Claims (1)
1.一种基于多信息融合的仿人型机器人遥操作作业场景重构方法,能够使操作者监视真实机器人的实际运行情况,其特征在于:实时视频图像中显示仿人型机器人及其作业场所中的环境模型;机器人本身的传感器实时测量机器人各关节角数据,机器人作业现场的环境检测传感器获取到机器人及其作业目标的位置数据,使用以上数据来驱动模型显示实时视频图像,能够真实的表达机器人的运行状态和作业现场中机器人及其环境的位置关系;操作者能够任意改变视角以观察模型的细节;场景还能够接收操作者发出的命令,进行解释,生成预测数据,在现场实时数据暂时缺失的情况下,使用预测数据驱动场景中的模型运动,当重新获取到反馈数据后,切换到由真实数据驱动模型的三维虚拟场景。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB2005100599150A CN100389013C (zh) | 2005-04-01 | 2005-04-01 | 基于多信息融合的仿人型机器人作业场景重构方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB2005100599150A CN100389013C (zh) | 2005-04-01 | 2005-04-01 | 基于多信息融合的仿人型机器人作业场景重构方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1840298A CN1840298A (zh) | 2006-10-04 |
CN100389013C true CN100389013C (zh) | 2008-05-21 |
Family
ID=37029581
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2005100599150A Expired - Fee Related CN100389013C (zh) | 2005-04-01 | 2005-04-01 | 基于多信息融合的仿人型机器人作业场景重构方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN100389013C (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101434066B (zh) * | 2008-10-20 | 2012-11-21 | 北京理工大学 | 机器人遥操作预测方法和遥操作预测平台 |
CN101844353B (zh) * | 2010-04-14 | 2011-08-10 | 华中科技大学 | 机械臂/灵巧手系统遥操作任务规划和仿真方法 |
US9879994B2 (en) * | 2011-06-15 | 2018-01-30 | Trimble Inc. | Method of placing a total station in a building |
JP5892361B2 (ja) * | 2011-08-02 | 2016-03-23 | ソニー株式会社 | 制御装置、制御方法、プログラム、及びロボット制御システム |
CN107004298B (zh) * | 2016-04-25 | 2020-11-10 | 深圳前海达闼云端智能科技有限公司 | 一种机器人三维模型的建立方法、装置及电子设备 |
CN112388678B (zh) * | 2020-11-04 | 2023-04-18 | 公安部第三研究所 | 一种基于低功耗模式识别技术的行为检测机器人 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09300272A (ja) * | 1996-05-14 | 1997-11-25 | Nippon Telegr & Teleph Corp <Ntt> | ロボット制御方法及び装置 |
US5983166A (en) * | 1995-09-28 | 1999-11-09 | Komatsu Ltd. | Structure measurement system |
JP2000117672A (ja) * | 1998-10-16 | 2000-04-25 | Xerox Corp | モジュ―ル間スイッチ接続の動的再構成方法及び装置 |
CN1309598A (zh) * | 1998-07-15 | 2001-08-22 | Ce核电力有限公司 | 可视管位置检验系统 |
CN1343551A (zh) * | 2000-09-21 | 2002-04-10 | 上海大学 | 机器视觉分层模块结构模型 |
CN1417006A (zh) * | 2001-11-09 | 2003-05-14 | 中国科学院自动化研究所 | 开放式工业机器人视觉控制平台 |
CN1472047A (zh) * | 2003-06-26 | 2004-02-04 | 上海交通大学 | 开放式网络机器人通用控制系统 |
CN1573628A (zh) * | 2003-05-29 | 2005-02-02 | 发那科株式会社 | 自动机械系统 |
-
2005
- 2005-04-01 CN CNB2005100599150A patent/CN100389013C/zh not_active Expired - Fee Related
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5983166A (en) * | 1995-09-28 | 1999-11-09 | Komatsu Ltd. | Structure measurement system |
JPH09300272A (ja) * | 1996-05-14 | 1997-11-25 | Nippon Telegr & Teleph Corp <Ntt> | ロボット制御方法及び装置 |
CN1309598A (zh) * | 1998-07-15 | 2001-08-22 | Ce核电力有限公司 | 可视管位置检验系统 |
JP2000117672A (ja) * | 1998-10-16 | 2000-04-25 | Xerox Corp | モジュ―ル間スイッチ接続の動的再構成方法及び装置 |
US6233502B1 (en) * | 1998-10-16 | 2001-05-15 | Xerox Corporation | Fault tolerant connection system for transiently connectable modular elements |
CN1343551A (zh) * | 2000-09-21 | 2002-04-10 | 上海大学 | 机器视觉分层模块结构模型 |
CN1417006A (zh) * | 2001-11-09 | 2003-05-14 | 中国科学院自动化研究所 | 开放式工业机器人视觉控制平台 |
CN1573628A (zh) * | 2003-05-29 | 2005-02-02 | 发那科株式会社 | 自动机械系统 |
CN1472047A (zh) * | 2003-06-26 | 2004-02-04 | 上海交通大学 | 开放式网络机器人通用控制系统 |
Non-Patent Citations (1)
Title |
---|
基于虚拟现实技术的机器人外科手术模拟与培训系统研究. 吕洪波,王田苗,刘达,胡磊,唐泽圣,申皓,田增民.高技术通讯,第11期. 2001 * |
Also Published As
Publication number | Publication date |
---|---|
CN1840298A (zh) | 2006-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Pan et al. | Augmented reality-based robot teleoperation system using RGB-D imaging and attitude teaching device | |
CN106527177B (zh) | 一种多功能一站式遥操作控制设计与仿真系统及方法 | |
CN103302668B (zh) | 基于Kinect的空间遥操作机器人的控制系统及其方法 | |
CN107671857B (zh) | 用于服务机器人操作演示与算法验证的三维仿真平台 | |
Naceri et al. | Towards a virtual reality interface for remote robotic teleoperation | |
CN102120325B (zh) | 新型遥操作远端机器人控制平台及方法 | |
CN109910018B (zh) | 具有视觉语义感知的机器人虚实交互操作执行系统及方法 | |
CN110216674B (zh) | 一种冗余自由度机械臂视觉伺服避障系统 | |
CN109434870A (zh) | 一种用于机器人带电作业的虚拟现实操作系统 | |
CN206326605U (zh) | 一种基于机器视觉的智能示教系统 | |
CN110480657A (zh) | 一种复杂结构环境空间机器人天地遥操作系统 | |
CN101587329A (zh) | 机器人预测的方法和系统 | |
Baier et al. | Distributed PC-based haptic, visual and acoustic telepresence system-experiments in virtual and remote environments | |
US20220101477A1 (en) | Visual Interface And Communications Techniques For Use With Robots | |
KR100756345B1 (ko) | 네트워크를 이용한 로봇 시뮬레이션 시스템 | |
CN110977981A (zh) | 一种机器人虚拟现实同步系统及同步方法 | |
Hashimoto et al. | TouchMe: An Augmented Reality Interface for Remote Robot Control. | |
CN100389013C (zh) | 基于多信息融合的仿人型机器人作业场景重构方法 | |
Schwenk et al. | An immersive spatially consistent multi-modal augmented virtuality human-machine interface for telerobotic systems | |
CN109213306A (zh) | 一种机器人远程控制平台及其设计方法 | |
CN118903798A (zh) | 一种基于数字孪生的乒乓球机器人实现方法及系统 | |
Su et al. | Development of an optical tracking based teleoperation system with virtual reality | |
CN118238147A (zh) | 基于遥操作的仿生机械手人机交互系统及方法 | |
Nguyen et al. | Human-centred interfaces on engineering teleoperation: A case study of utilising virtual reality (vr) with robotic systems | |
Kobayashi et al. | Overlay what humanoid robot perceives and thinks to the real-world by mixed reality system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20080521 Termination date: 20110401 |