[go: up one dir, main page]

CN113138596B - 机器人自动充电方法、系统、终端设备及存储介质 - Google Patents

机器人自动充电方法、系统、终端设备及存储介质 Download PDF

Info

Publication number
CN113138596B
CN113138596B CN202110344749.8A CN202110344749A CN113138596B CN 113138596 B CN113138596 B CN 113138596B CN 202110344749 A CN202110344749 A CN 202110344749A CN 113138596 B CN113138596 B CN 113138596B
Authority
CN
China
Prior art keywords
point cloud
map
robot
charging
preset reference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110344749.8A
Other languages
English (en)
Other versions
CN113138596A (zh
Inventor
李强
毕艳飞
柴黎林
李贝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Ubtech Technology Co ltd
Original Assignee
Shenzhen Ubtech Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Ubtech Technology Co ltd filed Critical Shenzhen Ubtech Technology Co ltd
Priority to CN202110344749.8A priority Critical patent/CN113138596B/zh
Publication of CN113138596A publication Critical patent/CN113138596A/zh
Application granted granted Critical
Publication of CN113138596B publication Critical patent/CN113138596B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0225Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving docking at a fixed facility, e.g. base station or loading bay
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0257Control of position or course in two dimensions specially adapted to land vehicles using a radar

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本申请提供了一种机器人自动充电方法、系统、终端设备及存储介质,该方法包括:生成充电导航路径,根据充电导航路径控制机器人移动至路径终点;获取机器人当前所处环境的点云地图;计算点云地图与不同预设参考地图之间的点云误差;计算点云地图与最小点云误差对应的预设参考地图之间的姿态变换参数,并根据姿态变换参数控制机器人进行姿态变换。本申请根据计算得到的姿态变换参数控制机器人进行姿态变换,以达到与充电桩之间的自动充电定位效果,无需在充电桩上设置标记特征,即无需对充电桩进行特征结构的部署安装,方便了用户的操作,提高了用户的使用体验。

Description

机器人自动充电方法、系统、终端设备及存储介质
技术领域
本申请属于自动充电技术领域,尤其涉及一种机器人自动充电方法、系统、终端设备及存储介质。
背景技术
随着科技的发展,越来越多机器人进入大众的视野,诸如银行,餐厅,医院等都能见到他们的身影,甚至有部分服务型机器人已经进入人们的家庭。因为服务型机器人绝大部分由蓄电池提供动力,因此,在日常的使用中,当机器人电量耗尽或将耗尽时,需将机器人与充电桩进行连接充电。每日重复为机器人充电,大大降低了用户对机器人的使用体验,因此,机器人的自动充电功能,有十分大的必要性。
现有的机器人自动充电过程中,均是采用标记特征的方式实现机器人与充电桩之间的充电定位,例如,在充电桩上设置圆弧或深槽等机械结构特征,以实现机器人与充电桩之间的充电定位,但由于采用标记特征的方式实现机器人与充电桩之间的充电定位,需要对充电桩进行结构的部署安装,导致用户操作繁琐,降低了用户的使用体验。
发明内容
本申请实施例提供了一种机器人自动充电方法、系统、终端设备及存储介质,旨在解决现有的机器人自动充电过程中,由于采用标记特征的方式实现机器人与充电桩之间的充电定位,所导致的用户操作繁琐,用户的使用体验低下的问题。
第一方面,本申请实施例提供了一种机器人自动充电方法,所述方法包括:
若接收到充电指令,则生成充电导航路径,并根据所述充电导航路径控制机器人移动至所述充电导航路径的路径终点;
获取所述机器人当前所处环境的点云地图,所述点云地图包括第一数据点,所述第一数据点是所述当前所处环境内障碍物对应的数据向量;
计算所述点云地图与不同预设参考地图之间的点云误差,一个所述预设参考地图为所述机器人与一个充电桩处于充电对接状态时的点云地图,所述点云误差用于表征所述点云地图与所述预设参考地图之间点云距离的平均值的距离误差,所述点云距离用于表征障碍物与地图原点之间的距离;
计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换。
本申请实施例与现有技术相比存在的有益效果是:若接收到充电指令,通过生成充电导航路径,能有效地控制机器人移动至路径终点,路径终点通过计算点云地图与不同预设参考地图之间的点云误差,以得到点云地图与不同预设参考地图之间点云距离的距离误差。由于预设参考地图是机器人与充电桩处于充电对接状态时的点云地图,因此,当点云误差最小时,表明点云地图与最小点云误差对应的预设参考地图越相似,通过计算点云地图与最小点云误差对应的预设参考地图之间的姿态变换参数,能有效地计算到机器人当前姿态与最小点云误差对应的预设参考地图中标准姿态之间的姿态变换参数,根据计算得到的姿态变换参数控制机器人进行姿态变换,以达到与充电桩之间的自动充电定位效果,本申请实施例无需在充电桩上设置标记特征,即无需对充电桩进行特征结构的部署安装,方便了用户的操作,提高了用户的使用体验。
进一步地,所述计算所述点云地图与不同预设参考地图之间的点云误差,包括:
针对不同所述预设参考地图,根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对,所述第二数据点是所述预设参考地图内障碍物对应的数据向量,同一所述点云对中的所述第一数据点与所述第二数据点之间的相似度大于相似度阈值;
根据最小二乘函数计算所述点云对对应的旋转平移矩阵,所述旋转平移矩阵包括旋转矩阵和平移向量,并计算所述旋转平移矩阵的变化量;
若所述旋转平移矩阵的变化量小于变化量阈值,则输出所述旋转平移矩阵;
若所述旋转平移矩阵的变化量大于或等于所述变化量阈值,则根据计算得到的所述旋转平移矩阵对所述点云地图中的第一数据点进行位置变换;
根据位置变换后的所述点云地图中的数据点,继续执行所述根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对的步骤,直至所述旋转平移矩阵的变化量小于所述变化量阈值,输出所述旋转平移矩阵;
根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差。
进一步地,所述根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差所采用的计算公式为:
E=Pref-(R*Psim+t)
其中,E是所述点云误差,Pref是最小所述点云误差对应的所述预设参考地图中点云距离的平均值,Psim是所述点云地图中点云距离的平均值,R是输出的所述旋转平移矩阵中的旋转矩阵,t是输出的所述旋转平移矩阵中的平移向量。
进一步地,所述计算所述点云地图与不同预设参考地图之间的点云误差之前,还包括:
将所述机器人与不同所述充电桩进行充电对接,并根据不同预设扫描角度进行雷达图像扫描,得到雷达点云图像;
针对同一所述充电桩,将不同所述预设扫描角度得到的不同的所述雷达点云图像进行组合,得到所述预设参考地图,并获取不同的所述雷达点云图像中点云距离的平均值;
计算不同的所述雷达点云图像中点云距离的平均值,得到参考平均值,并将计算得到的所述参考平均值之间的平均值设置为对应所述预设参考地图中点云距离的平均值。
进一步地,所述生成充电导航路径,包括:
获取所述机器人的位置坐标,并计算所述位置坐标与不同所述充电桩之间的移动距离;
将最小所述移动距离对应的所述充电桩设置为目标充电桩,并在所述目标充电桩与所述机器人的路径方向上获取所述路径终点,所述路径终点与所述充电桩之间的距离等于预设距离;
根据所述路径终点的坐标和所述机器人的位置坐标生成所述充电导航路径。
进一步地,所述获取所述机器人当前所处环境的点云地图,包括:
以所述路径终点为原点、预设方向为正方向,并根据预设角分辨率控制所述机器人旋转预设角度进行雷达图像扫描,得到所述当前所处环境的点云地图。
进一步地,所述计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换,包括:
获取输出的所述旋转平移矩阵中的水平变换参数、垂直变换参数和旋转角度,得到所述姿态变换参数;
分别根据所述水平变换参数、所述垂直变换参数和所述旋转角度控制所述机器人进行水平姿态变换、垂直姿态变换和角度姿态变换。
第二方面,本申请实施例提供了一种机器人自动充电系统,包括:
导航模块,用于若接收到充电指令,则生成充电导航路径,并根据所述充电导航路径控制机器人移动至所述充电导航路径的路径终点;
点云地图获取模块,用于获取所述机器人当前所处环境的点云地图,所述点云地图包括第一数据点,所述第一数据点是所述当前所处环境内障碍物对应的数据向量;
点云误差计算模块,用于计算所述点云地图与不同预设参考地图之间的点云误差,一个所述预设参考地图为所述机器人与一个充电桩处于充电对接状态时的点云地图,所述点云误差用于表征所述点云地图与所述预设参考地图之间点云距离的平均值的距离误差,所述点云距离用于表征障碍物与地图原点之间的距离;
姿态变换模块,用于计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换。
第三方面,本申请实施例提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述的方法。
第四方面,本申请实施例提供了一种存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述的方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中任一项所述的机器人自动充电方法。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1是本申请第一实施例提供的机器人自动充电方法的流程图;
图2是本申请第二实施例提供的机器人自动充电方法的流程图;
图3是本申请第三实施例提供的机器人自动充电系统的结构示意图;
图4是本申请第四实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
实施例一
请参阅图1,是本申请第一实施例提供的机器人自动充电方法的流程图,包括步骤:
步骤S10,若接收到充电指令,则生成充电导航路径,并根据所述充电导航路径控制机器人移动至所述充电导航路径的路径终点;
其中,当检测到机器人的电量小于电量阈值时,则判定接收到该充电指令,并生成充电导航路径,或接收到用户手动发送的充电指令时,生成充电导航路径,该充电导航路径用于控制机器人移动至对应的姿态变换点,该姿态变换点为充电导航路径的路径终点,通过控制机器人移动至对应的姿态变换点,保障了后续机器人进行姿态变换时所需要的空间。
具体的,该步骤中,所述生成充电导航路径,包括:
获取所述机器人的位置坐标,并计算所述位置坐标与不同所述充电桩之间的移动距离;
其中,机器人上设置有定位装置,基于该定位装置能有效地获取到机器人的位置坐标,本实施例中,预存储有充电桩坐标列表,该充电桩坐标列表中存储有不同充电桩对应的充电坐标,该步骤中,通过分别计算机器人的位置坐标与充电桩坐标列表中充电坐标之间的距离,得到该机器人与不同充电桩之间的移动距离;
将最小所述移动距离对应的所述充电桩设置为目标充电桩,并在所述目标充电桩与所述机器人的路径方向上获取所述路径终点;
其中,该路径终点与充电桩之间的距离等于预设距离,该预设距离可以根据需求进行设置,本实施例中,该预设距离可设置为大于等于1cm,且小于或等于30cm,该步骤中,通过在目标充电桩与机器人的路径方向上获取路径终点,有效地防止了将充电桩对应位置直接设置为路径终点,保障了后续机器人进行姿态变换时所需要的空间。
根据所述路径终点的坐标和所述机器人的位置坐标生成所述充电导航路径,其中,根据生成的充电导航路径,能有效地控制机器人移动至路径终点。
步骤S20,获取所述机器人当前所处环境的点云地图;
其中,该机器人上设置有图像扫描设备,该图像扫描设备可以为例如激光雷达(2D/3D)、立体摄像头(stereo camera)或越渡时间相机(time-of-flight camera)等设备,该步骤中,通过控制该图像扫描设备对该机器人当前所处环境进行雷达扫描,得到该点云地图,该点云地图包括第一数据点,该第一数据点是当前所处环境内障碍物对应的数据向量。
具体的,该步骤中,所述获取所述机器人当前所处环境的点云地图,包括:以所述路径终点为原点、预设方向为正方向,并根据预设角分辨率控制所述机器人旋转预设角度进行雷达图像扫描,得到所述当前所处环境的点云地图,其中,该预设方向、预设角分辨率和预设角度均可以根据需求进行设置,例如,可以将逆时针方向设置为正方向,360°设置为预设角度。
步骤S30,计算所述点云地图与不同预设参考地图之间的点云误差;
其中,一个预设参考地图为机器人与一个充电桩处于充电对接状态时的点云地图,该点云误差用于表征点云地图与预设参考地图之间点云距离的平均值的距离误差,点云距离用于表征障碍物与地图原点之间的距离。
进一步地,本实施例中,所述计算所述点云地图与不同预设参考地图之间的点云误差之前,还包括:
将所述机器人与不同所述充电桩进行充电对接,并根据不同预设扫描角度进行雷达图像扫描,得到雷达点云图像,其中,该预设扫描角度可以根据需求进行设置,该步骤中,最大预设扫描角度为Anglemax,最小预设扫描角度为Anglemin,从Anglemin至Anglemax,分别获取对应一帧的雷达点云图像;
针对同一所述充电桩,将不同所述预设扫描角度得到的不同的所述雷达点云图像进行组合,得到所述预设参考地图,并获取不同的所述雷达点云图像中点云距离的平均值,其中,针对不同的充电桩,分别将Anglemin至Anglemax对应帧的雷达点云图像进行组合,得到不同充电桩对应的预设参考地图,即,每个充电桩均对应一个预设参考地图;
计算不同的所述雷达点云图像中点云距离的平均值,得到参考平均值,并将计算得到的所述参考平均值之间的平均值设置为对应所述预设参考地图中点云距离的平均值;
其中,通过计算不同雷达点云图像中障碍物对应点云距离的平均值,得到该参考平均值,并针对同一预设参考地图,将计算得到的参考平均值设置为对应预设参考地图中点云距离的平均值;
例如,针对充电桩A1,从Anglemin至Anglemax经过雷达扫描后得到的雷达点云图像包括雷达点云图像a1、雷达点云图像a2和雷达点云图像a3,雷达点云图像a1、雷达点云图像a2和雷达点云图像a3组合得到预设参考地图C1,分别计算雷达点云图像a1、雷达点云图像a2和雷达点云图像a3中障碍物对应点云距离的平均值,得到该参考平均值b1、参考平均值b2和参考平均值b3,并将参考平均值b1、参考平均值b2和参考平均值b3之间的平均值,设置为预设参考地图C1中点云距离的平均值。
步骤S40,计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换;
其中,因为,预设参考地图是机器人与充电桩处于充电对接状态时的点云地图,当点云误差最小时,则判定点云地图与最小点云误差对应的预设参考地图之间越相似,即,机器人当前的姿态与预设参考地图中的标准姿态越相似,通过计算点云地图与最小点云误差对应的预设参考地图之间的姿态变换参数,能有效地计算到机器人当前姿态与最小点云误差对应的预设参考地图中标准姿态之间的姿态变换参数。
具体的,该步骤中,所述计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换,包括:
获取输出的所述旋转平移矩阵中的水平变换参数、垂直变换参数和旋转角度,得到所述姿态变换参数,并分别根据所述水平变换参数、所述垂直变换参数和所述旋转角度控制所述机器人进行水平姿态变换、垂直姿态变换和角度姿态变换,其中,通过分别根据水平变换参数、垂直变换参数和旋转角度控制机器人进行水平姿态变换、垂直姿态变换和角度姿态变换,使得机器人能准确的与充电桩之间进行充电对接,提高了机器人自动充电过程充电定位的准确性。
本实施例中,若接收到充电指令,通过生成充电导航路径,能有效地控制机器人移动至路径终点,通过计算点云地图与不同预设参考地图之间的点云误差,以得到点云地图与不同预设参考地图之间点云距离的距离误差,因为,预设参考地图是机器人与充电桩处于充电对接状态时的点云地图,当点云误差最小时,则判定点云地图与最小点云误差对应的预设参考地图之间越相似,通过计算点云地图与最小点云误差对应的预设参考地图之间的姿态变换参数,能有效地计算到机器人当前姿态与最小点云误差对应的预设参考地图中标准姿态之间的姿态变换参数,根据计算得到的姿态变换参数控制机器人进行姿态变换,以达到与充电桩之间的自动充电定位效果,本申请实施例无需在充电桩上设置标记特征,即无需对充电桩进行特征结构的部署安装,方便了用户的操作,提高了用户的使用体验。
实施例二
请参阅图2,是本申请第二实施例提供的机器人自动充电方法的流程图,该第二实施例用于对步骤S30进行细化,包括:
步骤S31,针对不同所述预设参考地图,根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对;
其中,第二数据点是预设参考地图内障碍物对应的数据向量,例如,当预设参考地图包括预设参考地图C1、预设参考地图C2和预设参考地图C3时,则将第一数据点分别与预设参考地图C1、预设参考地图C2和预设参考地图C3中的第二数据点进行点对构建,得到点云对e1、点云对e2和点云对e3;
具体的,同一点云对中的第一数据点与第二数据点之间的相似度大于相似度阈值,该步骤中,根据欧式距离公式,分别计算第一数据点与不同第二数据点之间的距离(相似度),并将相似度大于相似度阈值的第二数据点设置为第一数据点的匹配点,根据第一数据点和匹配点构建该点云对。
可选的,该步骤中,针对同一预设参考地图,将第一数据点在预设参考地图中最大相似度对应的第二数据点设置为该第一数据点的匹配点,并根据第一数据点和匹配点构建该点云对。
步骤S32,根据最小二乘函数计算所述点云对对应的旋转平移矩阵,并计算所述旋转平移矩阵的变化量;
其中,旋转平移矩阵包括旋转矩阵和平移向量,该步骤中,通过计算旋转平移矩阵的变化量,能有效地判断到旋转平移矩阵中的参数是否收敛,即,当旋转平移矩阵的变化量小于变化量阈值时,则判定该旋转平移矩阵收敛,当旋转平移矩阵的变化量大于或等于变化量阈值时,则判定该旋转平移矩阵未收敛。
具体的,该步骤中,针对不同预设参考地图,均根据最小二乘函数计算对应点云对对应的旋转平移矩阵,并计算旋转平移矩阵的变化量。
步骤S33,若所述旋转平移矩阵的变化量小于变化量阈值,则输出所述旋转平移矩阵;
其中,若旋转平移矩阵的变化量小于变化量阈值,则判定点云地图中的第一数据点经过旋转平移矩阵变化后的变化量小于变化量阈值,即,判定机器人经过旋转平移矩阵对应姿态变换参数进行姿态变化后的姿态,与机器人在预设参考地图中标准姿态之间的姿态相似度大于预设相似度,因此,通过输出旋转平移矩阵,提高了后续机器人姿态变换的准确性。
步骤S34,若所述旋转平移矩阵的变化量大于或等于所述变化量阈值,则根据计算得到的所述旋转平移矩阵对所述点云地图中的第一数据点进行位置变换;
其中,通过根据计算得到的旋转平移矩阵对点云地图中的第一数据点进行位置变换,保障了后续对旋转平移矩阵是否收敛的检测。
步骤S35,根据位置变换后的所述点云地图中的数据点,继续执行所述根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对的步骤,直至所述旋转平移矩阵的变化量小于所述变化量阈值,输出所述旋转平移矩阵;
其中,通过根据位置变换后的点云地图中的数据点,继续执行根据第一数据点和第二数据点构建点云对的步骤,能有效地对旋转平移矩阵起到迭代更新的效果,提高了旋转平移矩阵的准确性。
具体的,该步骤中,针对不同预设参考地图,均输出对应收敛后的旋转平移矩阵。
步骤S36,根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差;
具体的,所述根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差所采用的计算公式为:
E=Pref-(R*Psim+t)
其中,E是所述点云误差,Pref是最小所述点云误差对应的所述预设参考地图中点云距离的平均值,Psim是所述点云地图中点云距离的平均值,R是输出的所述旋转平移矩阵中的旋转矩阵,t是输出的所述旋转平移矩阵中的平移向量。
本实施例中,根据第一数据点和对应第二数据点构建点云对,有效地提高了旋转平移矩阵和旋转平移矩阵的变化量计算的准确性,通过计算旋转平移矩阵的变化量,能有效地判断到旋转平移矩阵中的参数是否收敛,若旋转平移矩阵的变化量小于变化量阈值,则判定点云地图中的第一数据点经过旋转平移矩阵变化后的变化量小于变化量阈值,即,该旋转平移矩阵收敛,通过根据计算得到的旋转平移矩阵对点云地图中的第一数据点进行位置变换,并根据位置变换后的点云地图中的数据点,继续执行根据第一数据点和第二数据点构建点云对的步骤,能有效地对旋转平移矩阵起到迭代更新的效果,提高了旋转平移矩阵的准确性。
实施例三
对应于上文实施例所述的机器人自动充电方法,图3示出了本申请第三实施例提供的机器人自动充电系统100的结构示意图,为了便于说明,仅示出了与本申请实施例相关的部分。
参照图3,该系统包括:导航模块10、点云地图获取模块11、点云误差计算模块12和姿态变换模块13,其中:
导航模块10,用于若接收到充电指令,则生成充电导航路径,并根据所述充电导航路径控制机器人移动至所述充电导航路径的路径终点。
其中,导航模块10还用于:获取所述机器人的位置坐标,并计算所述位置坐标与不同所述充电桩之间的移动距离;
将最小所述移动距离对应的所述充电桩设置为目标充电桩,并在所述目标充电桩与所述机器人的路径方向上获取所述路径终点,所述路径终点与所述充电桩之间的距离等于预设距离;
根据所述路径终点的坐标和所述机器人的位置坐标生成所述充电导航路径。
点云地图获取模块11,用于获取所述机器人当前所处环境的点云地图,所述点云地图包括第一数据点,所述第一数据点是所述当前所处环境内障碍物对应的数据向量。
其中,点云地图获取模块11还用于:以所述路径终点为原点、预设方向为正方向,并根据预设角分辨率控制所述机器人旋转预设角度进行雷达图像扫描,得到所述当前所处环境的点云地图。
点云误差计算模块12,用于计算所述点云地图与不同预设参考地图之间的点云误差,一个所述预设参考地图为所述机器人与一个充电桩处于充电对接状态时的点云地图,所述点云误差用于表征所述点云地图与所述预设参考地图之间点云距离的平均值的距离误差,所述点云距离用于表征障碍物与地图原点之间的距离。
其中,点云误差计算模块12还用于:针对不同所述预设参考地图,根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对,所述第二数据点是所述预设参考地图内障碍物对应的数据向量,同一所述点云对中的所述第一数据点与所述第二数据点之间的相似度大于相似度阈值;
根据最小二乘函数计算所述点云对对应的旋转平移矩阵,所述旋转平移矩阵包括旋转矩阵和平移向量,并计算所述旋转平移矩阵的变化量;
若所述旋转平移矩阵的变化量小于变化量阈值,则输出所述旋转平移矩阵;
若所述旋转平移矩阵的变化量大于或等于所述变化量阈值,则根据计算得到的所述旋转平移矩阵对所述点云地图中的第一数据点进行位置变换;
根据位置变换后的所述点云地图中的数据点,继续执行所述根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对的步骤,直至所述旋转平移矩阵的变化量小于所述变化量阈值,输出所述旋转平移矩阵;
根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差。
具体的,所述根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差所采用的计算公式为:
E=Pref-(R*Psim+t)
其中,E是所述点云误差,Pref是最小所述点云误差对应的所述预设参考地图中点云距离的平均值,Psim是所述点云地图中点云距离的平均值,R是输出的所述旋转平移矩阵中的旋转矩阵,t是输出的所述旋转平移矩阵中的平移向量。
姿态变换模块13,用于计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换。
其中,姿态变换模块13还用于:获取输出的所述旋转平移矩阵中的水平变换参数、垂直变换参数和旋转角度,得到所述姿态变换参数;
分别根据所述水平变换参数、所述垂直变换参数和所述旋转角度控制所述机器人进行水平姿态变换、垂直姿态变换和角度姿态变换。
进一步地,该机器人自动充电系统100还包括:
参考地图生成模块14,用于将所述机器人与不同所述充电桩进行充电对接,并根据不同预设扫描角度进行雷达图像扫描,得到雷达点云图像;
针对同一所述充电桩,将不同所述预设扫描角度得到的不同的所述雷达点云图像进行组合,得到所述预设参考地图,并获取不同的所述雷达点云图像中点云距离的平均值;
计算不同的所述雷达点云图像中点云距离的平均值,得到参考平均值,并将计算得到的所述参考平均值之间的平均值设置为对应所述预设参考地图中点云距离的平均值。
本实施例中,若接收到充电指令,通过生成充电导航路径,能有效地控制机器人移动至路径终点,通过计算点云地图与不同预设参考地图之间的点云误差,以得到点云地图与不同预设参考地图之间点云距离的距离误差,因为,预设参考地图是机器人与充电桩处于充电对接状态时的点云地图,当点云误差最小时,则判定点云地图与最小点云误差对应的预设参考地图之间越相似,通过计算点云地图与最小点云误差对应的预设参考地图之间的姿态变换参数,能有效地计算到机器人当前姿态与最小点云误差对应的预设参考地图中标准姿态之间的姿态变换参数,根据计算得到的姿态变换参数控制机器人进行姿态变换,以达到与充电桩之间的自动充电定位效果,本申请实施例无需在充电桩上设置标记特征,即无需对充电桩进行特征结构的部署安装,方便了用户的操作,提高了用户的使用体验。
需要说明的是,上述装置/模块之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图4为本申请第四实施例提供的终端设备2的结构示意图。如图4所示,该实施例的终端设备2包括:至少一个处理器20(图4中仅示出一个处理器)、存储器21以及存储在所述存储器21中并可在所述至少一个处理器20上运行的计算机程序22,所述处理器20执行所述计算机程序22时实现上述任意各个方法实施例中的步骤。
所述终端设备2可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。该终端设备可包括,但不仅限于,处理器20、存储器21。本领域技术人员可以理解,图4仅仅是终端设备2的举例,并不构成对终端设备2的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入输出设备、网络接入设备等。
所称处理器20可以是中央处理单元(Central Processing Unit,CPU),该处理器20还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器21在一些实施例中可以是所述终端设备2的内部存储单元,例如终端设备2的硬盘或内存。所述存储器21在另一些实施例中也可以是所述终端设备2的外部存储设备,例如所述终端设备2上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器21还可以既包括所述终端设备2的内部存储单元也包括外部存储设备。所述存储器21用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,例如所述计算机程序的程序代码等。所述存储器21还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请实施例还提供了一种网络设备,该网络设备包括:至少一个处理器、存储器以及存储在所述存储器中并可在所述至少一个处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述任意各个方法实施例中的步骤。
本申请实施例还提供了一种存储介质,该存储介质可以为计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在移动终端上运行时,使得移动终端执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种机器人自动充电方法,其特征在于,所述方法包括:
若接收到充电指令,则生成充电导航路径,并根据所述充电导航路径控制机器人移动至所述充电导航路径的路径终点;
获取所述机器人当前所处环境的点云地图,所述点云地图包括第一数据点,所述第一数据点是所述当前所处环境内障碍物对应的数据向量;
计算所述点云地图与不同预设参考地图之间的点云误差,一个所述预设参考地图为所述机器人与一个充电桩处于充电对接状态时的点云地图,所述点云误差用于表征所述点云地图与所述预设参考地图之间点云距离的平均值的距离误差,所述点云距离用于表征障碍物与地图原点之间的距离;
计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换。
2.如权利要求1所述的机器人自动充电方法,其特征在于,所述计算所述点云地图与不同预设参考地图之间的点云误差,包括:
针对不同所述预设参考地图,根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对,所述第二数据点是所述预设参考地图内障碍物对应的数据向量,同一所述点云对中的所述第一数据点与所述第二数据点之间的相似度大于相似度阈值;
根据最小二乘函数计算所述点云对对应的旋转平移矩阵,所述旋转平移矩阵包括旋转矩阵和平移向量,并计算所述旋转平移矩阵的变化量;
若所述旋转平移矩阵的变化量小于变化量阈值,则输出所述旋转平移矩阵;
若所述旋转平移矩阵的变化量大于或等于所述变化量阈值,则根据计算得到的所述旋转平移矩阵对所述点云地图中的第一数据点进行位置变换;
根据位置变换后的所述点云地图中的数据点,继续执行所述根据所述第一数据点和所述预设参考地图中的第二数据点构建点云对的步骤,直至所述旋转平移矩阵的变化量小于所述变化量阈值,输出所述旋转平移矩阵;
根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差。
3.如权利要求2所述的机器人自动充电方法,其特征在于,所述根据输出的所述旋转平移矩阵计算所述点云地图与不同所述预设参考地图之间的点云误差所采用的计算公式为:
其中,E是所述点云误差,P ref是所述点云误差对应的所述预设参考地图中点云距离的平均值,P sim是所述点云地图中点云距离的平均值,R是输出的所述旋转平移矩阵中的旋转矩阵,t是输出的所述旋转平移矩阵中的平移向量。
4.如权利要求1所述的机器人自动充电方法,其特征在于,所述计算所述点云地图与不同预设参考地图之间的点云误差之前,还包括:
将所述机器人与不同所述充电桩进行充电对接,并根据不同预设扫描角度进行雷达图像扫描,得到雷达点云图像;
针对同一所述充电桩,将不同所述预设扫描角度得到的不同的所述雷达点云图像进行组合,得到所述预设参考地图,并获取不同的所述雷达点云图像中点云距离的平均值;
计算不同的所述雷达点云图像中点云距离的平均值,得到参考平均值,并将计算得到的所述参考平均值之间的平均值设置为对应所述预设参考地图中点云距离的平均值。
5.如权利要求1所述的机器人自动充电方法,其特征在于,所述生成充电导航路径,包括:
获取所述机器人的位置坐标,并计算所述位置坐标与不同所述充电桩之间的移动距离;
将最小所述移动距离对应的所述充电桩设置为目标充电桩,并在所述目标充电桩与所述机器人的路径方向上获取所述路径终点,所述路径终点与所述充电桩之间的距离等于预设距离;
根据所述路径终点的坐标和所述机器人的位置坐标生成所述充电导航路径。
6.如权利要求1所述的机器人自动充电方法,其特征在于,所述获取所述机器人当前所处环境的点云地图,包括:
以所述路径终点为原点、预设方向为正方向,并根据预设角分辨率控制所述机器人旋转预设角度进行雷达图像扫描,得到所述当前所处环境的点云地图。
7.如权利要求2所述的机器人自动充电方法,其特征在于,所述计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换,包括:
获取输出的所述旋转平移矩阵中的水平变换参数、垂直变换参数和旋转角度,得到所述姿态变换参数;
分别根据所述水平变换参数、所述垂直变换参数和所述旋转角度控制所述机器人进行水平姿态变换、垂直姿态变换和角度姿态变换。
8.一种机器人自动充电系统,其特征在于,包括:
导航模块,用于若接收到充电指令,则生成充电导航路径,并根据所述充电导航路径控制机器人移动至所述充电导航路径的路径终点;
点云地图获取模块,用于获取所述机器人当前所处环境的点云地图,所述点云地图包括第一数据点,所述第一数据点是所述当前所处环境内障碍物对应的数据向量;
点云误差计算模块,用于计算所述点云地图与不同预设参考地图之间的点云误差,一个所述预设参考地图为所述机器人与一个充电桩处于充电对接状态时的点云地图,所述点云误差用于表征所述点云地图与所述预设参考地图之间点云距离的平均值的距离误差,所述点云距离用于表征障碍物与地图原点之间的距离;
姿态变换模块,用于计算所述点云地图与最小所述点云误差对应的所述预设参考地图之间的姿态变换参数,并根据所述姿态变换参数控制所述机器人进行姿态变换。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法。
10.一种存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
CN202110344749.8A 2021-03-31 2021-03-31 机器人自动充电方法、系统、终端设备及存储介质 Active CN113138596B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110344749.8A CN113138596B (zh) 2021-03-31 2021-03-31 机器人自动充电方法、系统、终端设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110344749.8A CN113138596B (zh) 2021-03-31 2021-03-31 机器人自动充电方法、系统、终端设备及存储介质

Publications (2)

Publication Number Publication Date
CN113138596A CN113138596A (zh) 2021-07-20
CN113138596B true CN113138596B (zh) 2024-09-17

Family

ID=76810192

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110344749.8A Active CN113138596B (zh) 2021-03-31 2021-03-31 机器人自动充电方法、系统、终端设备及存储介质

Country Status (1)

Country Link
CN (1) CN113138596B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114967668A (zh) * 2021-11-19 2022-08-30 丰疆智能(深圳)有限公司 一种机器人自动充电方法及系统
CN114895686B (zh) * 2022-05-27 2025-03-25 广州高新兴机器人有限公司 机器人对桩充电方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112147994A (zh) * 2019-06-28 2020-12-29 深圳市优必选科技股份有限公司 一种机器人及其回充控制方法和装置
CN112346453A (zh) * 2020-10-14 2021-02-09 深圳市杉川机器人有限公司 机器人自动回充方法、装置、机器人和存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109211236B (zh) * 2017-06-30 2022-03-04 沈阳新松机器人自动化股份有限公司 导航定位方法、装置及机器人
US10761539B2 (en) * 2017-11-22 2020-09-01 Locus Robotics Corp. Robot charger docking control
CN107945233B (zh) * 2017-12-04 2020-11-24 深圳市无限动力发展有限公司 视觉扫地机器人及其回充方法
CN109648602A (zh) * 2018-09-11 2019-04-19 深圳优地科技有限公司 自动充电方法、装置及终端设备
CN109683605B (zh) * 2018-09-25 2020-11-24 上海肇观电子科技有限公司 机器人及其自动回充方法、系统、电子设备、存储介质
US11049282B2 (en) * 2019-02-28 2021-06-29 Intelligrated Headquarters, Llc Vision calibration system for robotic carton unloading
KR102270075B1 (ko) * 2019-08-14 2021-06-29 휴림로봇 주식회사 로봇용 자율충전 시스템 및 방법
CN111546333A (zh) * 2020-04-24 2020-08-18 深圳市优必选科技股份有限公司 一种机器人及其自动控制方法和装置
CN112198871A (zh) * 2020-09-02 2021-01-08 创新工场(北京)企业管理股份有限公司 用于移动机器人的自主充电的方法和装置
CN112561998B (zh) * 2020-12-16 2024-02-20 国网江苏省电力有限公司检修分公司 一种基于三维点云配准的机器人定位和自主充电方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112147994A (zh) * 2019-06-28 2020-12-29 深圳市优必选科技股份有限公司 一种机器人及其回充控制方法和装置
CN112346453A (zh) * 2020-10-14 2021-02-09 深圳市杉川机器人有限公司 机器人自动回充方法、装置、机器人和存储介质

Also Published As

Publication number Publication date
CN113138596A (zh) 2021-07-20

Similar Documents

Publication Publication Date Title
CN111442722B (zh) 定位方法、装置、存储介质及电子设备
CN110322500B (zh) 即时定位与地图构建的优化方法及装置、介质和电子设备
JP6505939B1 (ja) 充電台の識別方法、装置、ロボット及びコンピュータ読取可能な記憶媒体
CN109300159B (zh) 位置检测方法、装置、设备、存储介质及车辆
WO2021098448A1 (zh) 传感器标定方法及装置、存储介质、标定系统和程序产品
CN113138596B (zh) 机器人自动充电方法、系统、终端设备及存储介质
KR20140071330A (ko) 이미징 디바이스를 캘리브레이션하는 방법 및 장치
CN113459088B (zh) 地图调整方法、电子设备及存储介质
CN112419423B (zh) 一种标定方法、装置、电子设备及存储介质
US20230095552A1 (en) Map construction method, robot and medium
CN113793370B (zh) 三维点云配准方法、装置、电子设备及可读介质
CN117974916A (zh) 基于信息融合的高精地图生成方法及装置
CN112070835A (zh) 机械臂位姿预测方法、装置、存储介质及电子设备
US12046008B2 (en) Pose calibration method, robot and computer readable storage medium
CN113191323B (zh) 一种语义元素处理的方法、装置、电子设备及存储介质
CN112085842B (zh) 深度值确定方法及装置、电子设备和存储介质
CN111696141A (zh) 一种三维全景扫描采集方法、设备及存储设备
CN110120076A (zh) 一种位姿确定方法、系统、电子设备及计算机存储介质
CN116642490A (zh) 基于混合地图的视觉定位导航方法、机器人及存储介质
CN112991449B (zh) 一种agv定位与建图方法、系统、装置及介质
CN115937166A (zh) 基于鱼眼相机的3d检测方法、装置、介质及车辆
CN113808216A (zh) 相机标定方法及装置、电子设备和存储介质
CN115220446B (zh) 机器人寻桩方法、装置及机器人
CN114964207B (zh) 一种机器人3d点云地图动态更新方法、装置及机器人
EP4513434A1 (en) Spatial information prediction method and apparatus, readable storage medium, and electronic device

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant