CN104608136A - 用机器人取出散乱堆积的物品的装置以及方法 - Google Patents
用机器人取出散乱堆积的物品的装置以及方法 Download PDFInfo
- Publication number
- CN104608136A CN104608136A CN201410569131.1A CN201410569131A CN104608136A CN 104608136 A CN104608136 A CN 104608136A CN 201410569131 A CN201410569131 A CN 201410569131A CN 104608136 A CN104608136 A CN 104608136A
- Authority
- CN
- China
- Prior art keywords
- mentioned
- article
- dimensional point
- manipulator
- density
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 38
- 238000005259 measurement Methods 0.000 claims abstract description 50
- 238000009825 accumulation Methods 0.000 claims description 17
- 238000001739 density measurement Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 27
- 230000009471 action Effects 0.000 description 14
- 238000001179 sorption measurement Methods 0.000 description 7
- 238000010521 absorption reaction Methods 0.000 description 6
- 239000003463 adsorbent Substances 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 208000037805 labour Diseases 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000004441 surface measurement Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1612—Programme controls characterised by the hand, wrist, grip control
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G47/00—Article or material-handling devices associated with conveyors; Methods employing such devices
- B65G47/74—Feeding, transfer, or discharging devices of particular kinds or types
- B65G47/90—Devices for picking-up and depositing articles or materials
- B65G47/905—Control arrangements
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40053—Pick 3-D object from pile of objects
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40564—Recognize shape, contour of object, extract position and orientation
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40609—Camera to monitor end effector as well as object to be handled
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Orthopedic Medicine & Surgery (AREA)
- Manipulator (AREA)
Abstract
本发明提供物品取出装置以及方法。物品取出装置构成为,用三维测定机测定物品的表面位置来取得三维点的位置信息,基于测定到的三维点的位置信息,对表示三维空间内的三维点的分布程度的密度分布进行运算,基于该密度分布,对密度成为极大的密度极大位置进行运算,基于该密度极大位置,对能够取出位于密度极大位置的物品的机械手的位置以及姿势进行运算,并以使机械手向该机械手位置姿势移动来取出物品的方式对机器人进行控制。
Description
技术领域
本发明涉及识别在三维空间散乱堆积的物品的位置以及姿势、并使用机器人取出识别后的物品的物品取出装置以及物品取出方法。
背景技术
作为这种装置,以往公知有如下装置,即,针对用照相机拍摄散乱堆积的物品而得到的二维图像、用三维测定机测定散乱堆积的物品而得到的三维点集合,使用图形匹配来对物品的位置进行识别。该装置例如记载于日本特开2011-179909号公报(JP2011-179909A)。
在JP2011-179909A记载的装置中,预先由CAD模型等取得物品的三维模型图形,另一方面,用三维测定机测定三维空间内的物品的表面而取得三维点集合(距离图像),将三维点集合分割为由从三维点集合抽出的边缘包围的部分区域。而且,首先将一个部分区域设定为物品区域,通过反复进行三维模型图形对该物品区域的匹配处理、和将其它部分区域加入物品区域的更新处理这两个处理,来测量物品的位置以及姿势。
然而,JP2011-179909A记载的装置需要预先按照物品的每个品种制作三维模型图形,从而需要劳力和时间。尤其,在物品为多品种的情况下,需要制作品种数量的模型图形,从而需要大量的劳力和时间。另外,在不定形的物品的情况下,本来就无法制作模型图形,从而不可能适用。并且,在物品散乱堆积的状态下,难以通过图形匹配来得到能够决定物品的三维姿势的程度的充分的三维点集合。
发明内容
作为本发明的一个方式的物品取出装置具备:机器人,其具有能够保持物品的机械手;三维测定机,其测定在三维空间散乱堆积的多个物品的表面位置,并取得物品表面的多个三维点的位置信息;密度运算部,其基于由三维测定机测定到的位置信息,对表示三维空间内的多个三维点的分布程度的密度分布进行运算;极大位置运算部,其基于由密度运算部运算出的密度分布,对密度成为极大的密度极大位置进行运算;机械手位置姿势运算部,其基于由极大位置运算部运算出的密度极大位置,对能够取出位于密度极大位置或者其附近的物品的机械手的位置以及姿势、亦即机械手位置姿势进行运算;以及机器人控制部,其以使机械手向由机械手位置姿势运算部运算出的机械手位置姿势移动来取出物品的方式对机器人进行控制。
另外,本发明的其它的方式是使用具有能够保持物品的机械手的机器人来取出在三维空间散乱堆积的多个物品的物品取出方法,其特征在于,用三维测定机测定散乱堆积的多个物品的表面位置,取得物品表面的多个三维点的位置信息,基于由三维测定机测定到的位置信息,对表示三维空间内的多个三维点的分布程度的密度分布进行运算,基于运算出的密度分布,对密度成为极大的密度极大位置进行运算,基于运算出的密度极大位置,对能够取出位于密度极大位置或者其附近的物品的上述机械手的位置以及姿势、亦即机械手位置姿势进行运算,并以使机械手向运算出的机械手位置姿势移动来取出物品的方式对机器人进行控制。
附图说明
本发明的目的、特征以及优点通过以下的与附图相关的实施方式的说明,会变得更加清楚。该附图中:
图1是表示本发明的一个实施方式的物品取出装置的简要结构的图;
图2是表示由图1的机器人控制装置执行的处理的一个例子的流程图;
图3是表示由图1的三维测定机取得的三维点集合的一个例子的图;
图4是表示从图3的三维点集合求出的连结集合的一个例子的图;
图5是说明连结集合的概念图;
图6是表示求解连结集合的处理的详细情况的流程图;
图7是表示将属于连结集合的三维点进行了近似而得的平面和平面上的法线矢量的图;
图8是表示将属于连结集合的三维点正投影于平面的投影点的一个例子的图;
图9是表示求解投影点的密度的测量点的一个例子的图;
图10是表示与密度极大点对应的机械手位置姿势的一个例子的图;
图11是表示图10的机械手位置姿势的编号的一个例子的图;
图12是表示本发明的实施方式的物品取出装置的动作的一个例子的图;
图13是表示与图12的动作连续的动作的一个例子的图;
图14是表示与图13的动作连续的动作的一个例子的图;
图15是表示图1的机器人控制装置的内部结构的框图。
具体实施方式
以下,参照图1~图15对本发明的实施方式的物品取出装置进行说明。图1是表示本发明的一个实施方式的物品取出装置10的简要结构的图。物品取出装置10具有三维测定机11、机器人12、以及连接三维测定机11和机器人12来控制机器人12的机器人控制装置13。机器人12具有安装于臂12a的前端部的机械手14。在机器人12的侧方配置有集装箱16。此外,图1中,一并表示XYZ的正交三轴坐标系。Z方向是铅垂方向,X方向以及Y方向是水平方向,集装箱16表示在XZ平面上。
在上方敞开的集装箱16内,散乱堆积多个物品20。本实施方式的物品取出装置10从散乱堆积有该多个物品20的状态识别应取出的物品20的位置以及姿势,用机械手14从集装箱16中取出识别后的物品20并对其进行保持,并且通过机器人12的动作向集装箱16外的规定位置搬运。多个物品20在图1中表示为相互相同形状(L字型形状),但也可以是L字型以外的形状,也包括不定形、多个品种。此外,以下,为了与集装箱16内的其它物品进行区别,有用符号21(参照图13)表示由机械手14保持的物品20的情况。
三维测定机11配置于集装箱16的中央部上方,对散乱堆积在集装箱16内的物品20中、露出的物品20的表面进行测定,取得多个三维点的位置信息(三维信息)。三维测定机11的测定范围需要包括集装箱16,但若测定范围过大则导致测定分辨率的降低。因此,测定范围优选与集装箱16的占有范围相等,例如与集装箱16的占有范围一致。此外,图1中,三维测定机11固定于专用的架台15,但也可以在机器人12的前端部安装三维测定机11。三维测定机11和机器人控制装置13通过通信电缆等通信机构相互连接,能够相互通信。
作为三维测定机11,能够利用各种非接触方式。例如,能够举出两台照相机的立体方式、扫描缝状激光的方式、扫描点状激光的方式、使用投影仪等装置将图形光向物品投影的方式、利用光从投光器射出后在物品表面反射并向受光器入射为止的飞行时间的方式等。
三维测定机11以被称作距离图像或者三维图的形式来表现所取得的三维信息。距离图像是指以图像形式表现三维信息的图像,利用图像的各像素的亮度、颜色来表示该图像上的位置的高度或者距离三维测定机11的距离。另一方面,三维图是指以测定到的三维坐标值(x、y、z)的集合来表现三维信息的图。在本实施方式中,将具有距离图像的各像素、三维图的三维坐标值的点称作三维点,将由多个三维点构成的集合称作三维点集合。三维点集合是由三维测定机11测定到的三维点全体的集合,能够利用三维测定机11取得。
在本实施方式中,利用三维测定机11,对露出的物品20的表面的三维位置进行测定,并检测物品20的表面上的位置姿势。机械手14与检测到位置姿势的物品20的表面接触,并保持物品20。作为这样的机械手14,例如能够举出吸附垫、吸引嘴、吸附用磁铁等。在本实施方式中,将吸附垫用作机械手14。
吸附垫14具有沿长边方向延伸的轴部14a、和设于轴部14a的前端的垫部14b。在垫部14b的下端部设置吸附面14c,吸附面14c的中心位于通过轴部14a的中心的轴线L0上。在与该吸附面14c的中心距离规定距离Δd的上方的轴线L0上的位置设定有机械手14的基准点14d。通过机器人12的动作来控制机械手14的位置姿势。即,控制三维点空间的基准点14d的位置以及轴线L0的朝向。此外,在本实施方式中,以保持一个物品20的方式构成机械手14,但也可以以同时保持多个物品的方式构成机械手14。
图2是表示机器人控制装置13中执行的处理、特别是涉及物品取出的处理的一个例子的流程图。以下,参照图2的流程图以及相关的附图对物品取出装置10的动作进行说明。
若通过例如未图示的操作开关的操作输入物品20的取出开始指令,则开始图2的处理。首先,步骤S1中,用三维测定机11测定在三维空间散乱堆积的多个物品20的表面来取得三维点集合30。图3是表示用三维测定机11取得的三维点集合30、和构成三维点集合30的三维点31的一个例子的图。附图中,三维点31由黑色圆形表示,三维点集合30表示为用包含黑色圆形整体的虚线围起的区域。
接下来,步骤S2中,从三维点集合30求解一个以上的连结集合32。图4是表示从三维点集合30求出的连结集合32的一个例子的图。图中,连结集合32表示为用虚线围起的区域。即,图4中表示了4个连结集合32。
这里所说的连结集合32是指三维点集合30的部分集合,在任意的三维点(第1三维点)31的附近存在与该三维点31不同的其它三维点(第2三维点)31的情况下,连结集合32是连结第1三维点31和第2三维点31而成的集合。即,连结集合32是指连结相互存在于附近的三维点31而成的集合。图5是说明连结集合32的概念的图。图5中,当相邻的第1三维点31与第2三维点31之间的距离在规定值以内时,相互连结第1三维点31和第2三维点31。
例如如图5所示,由三维测定机11测定多个三维点31(用311~317表示),其中,当311和312、312和313、313和314以及315和316分别存在于规定距离内时,相互连结它们。该情况下,由于也经由312和313连结311和314,所以311~314构成同一的连结集合321。另一方面,由于315和316不与311~314中任一个连结,所以构成其它的连结集合322。由于317不与311~316中任一个连结,所以仅由317构成连结集合323。
在利用三维的测定机11测定散乱堆积的物品20的表面的情况下,同一物品20上的相邻的三维点31(例如图5的313、314)相互位于近距离。与此相对,在物品20的边界部,相邻的三维点(例如图5的314、315)的位置较大地发生变化。因此,三维点313、314属于同一的连结集合32,相对于此,三维点314、315属于相互不同的连结集合32。因此,通过适当地设定构成连结集合32的三维点之间的最大距离、连结集合32的最小点数、最大点数等,能够将连结集合32认为是一个物品20的表面形状。即,单一的连结集合32一对一地与单一的物品20对应,从而能够由连结集合32确定物品20。
图6是更加详细地表示用于求解连结集合32的处理(连结集合运算处理)、即图2的步骤S2的处理的流程图。首先,步骤S21中,对属于三维点集合30的全部三维点31,分配表示哪一个连结集合32都不所属的标签号0来作为初始的标签号。以下,用31(j)表示被分配有作为自然数的标签号j的三维点31。标签号j是与连结集合32对应地被分配的号码,若被分配有不是0的同一标签号j,则属于同一的连结集合32。接下来,步骤S22中,为了求解第1个连结集合32,将标签号j设为1(j←1)。
接下来,步骤S23中,选择属于三维点集合30的三维点31、且是标签号为0的任意的三维点31(0)。步骤S24中,判定是否选择了标签号为0的三维点31(0),若是肯定的则进入步骤S25。在未被选择三维点31(0)的情况下,设于三维点集合30的全部三维点31属于任一连结集合32。该情况下,步骤S24是否定的,连结集合运算处理结束,并进入图2的步骤S3。
步骤S25中,准备用于储存标签号为j的三维点31(j)的一览表Lj。步骤S26中,在对步骤S24中选择的三维点31(0)分配了标签号j后,将该三维点31(j)追加到一览表Lj。步骤S27中,对于取自然数值的变量k,给予初始值1(k←1)。k是对一览表Lj中所含有的三维点31(j)进行指定的号码。此外,一览表Lj中,追加的三维点31(j)以追加的顺序排列。
步骤S28中,判定在一览表Lj的第k个三维点31(j)的附近是否存在标签号为0的三维点31(0)。若步骤S28是肯定的则进入步骤S29,若是否定的则跳过步骤S29而进入步骤S30。步骤S29中,在对判定为在一览表Lj的第k个三维点31(j)的附近存在的全部三维点31(0)分配了标签号j之后,在一览表Lj的最后追加这些三维点31(j)。步骤S30中,对变量k追加1(k←k+1)。
步骤S31中,判定k的值是否比储存于一览表Lj的三维点31(j)的数量(要素数量N)大。在k比要素数量N大的情况下,结束针对储存于一览表Lj的N个全部三维点31(j)的附近判定的处理,位于一览表Lj内的三维点31(j)的附近的三维点已经储存在同一一览表Lj内。因此,结束在一览表Lj追加三维点31(j)的处理,进入步骤S32。在除此以外的情况下,由于对于一览表Lj内的全部三维点31(j),附近判定的处理未结束,所以返回步骤S28,反复进行向一览表Lj追加三维点31(j)的处理。
步骤S32中,对标签号j追加1(j←j+1),返回步骤S23。以后,反复进行与步骤S23~步骤S32相同的处理,求解与下一个标签号j对应的连结集合32。
参照图5对以上的连结集合运算处理进行具体地说明。在连结集合运算处理的开始时,全部的三维点311~317不属于连结集合32,三维点311~317的标签号是0(步骤S21)。为了从该状态开始制作标签号1的连结集合32,例如如果选择三维点313(步骤S23),则在对该三维点313分配标签号1(313(1))之后,将三维点313储存为标签号1的一览表L1的第1个(步骤S26)。
接下来,判定在一览表L1的第1个三维点313的附近是否存在标签号0的三维点31(0)(步骤S28)。该情况下,由于存在标签号0的三维点312、314,所以对这些三维点312、314分别分配标签号1(312(1)、314(1)),并将它们分别追加在一览表L1的第2个以及第3个(步骤S29)。由此一览表L1的要素数量N变为3。
之后,变量k变为2(<N)(步骤S30),判定在一览表L1的第2个三维点312的附近是否存在标签号0的三维点31(0)(步骤S28)。该情况下,由于存在标签号0的三维点311,所以对该三维点311分配标签号1(311(1)),并将其追加在一览表L1的第4个(步骤S29)。由此一览表L1的要素数量N变为4。
之后,变量k变为3(<N)(步骤S30),判定在一览表L1的第3个三维点314的附近是否存在标签号0的三维点31(步骤S28)。该情况下,由于在三维点314的附近不存在标签号0的三维点31,所以要素数量N保持为4,而k变为4(步骤S30),判定在一览表L1的第4个三维点311的附近是否存在标签号0的三维点31(0)(步骤S28)。该情况下,由于在三维点311的附近不存在标签号0的三维点31,所以要素数量N保持为4,而k变为5(步骤S30)。
此时,由于变量k比要素数量N大,所以结束标签号1的一览表L1的制作,将标签号设为2(步骤S32),反复进行相同的处理。在反复进行的处理中,例如对标签号0的三维点315、316分配标签号2,并将三维点315(2)、316(2)追加到一览表L2,在对标签号0的三维点317分配标签号3,并将三维点317(3)追加到一览表L3。由此,由于不存在标签号0的三维点31,所以步骤S24中是否定的,结束连结集合运算处理,而进入图2的步骤S3。
步骤S3中,对于各个连结集合32,基于属于连结集合32的三维点31的位置,求解对三维点31进行了近似而得的平面33。平面33是在三维点31存在的范围延伸的平面,即有限的平面。图7是表示平面33和从平面33上的点开始而与平面33垂直地延伸的法线矢量33a的图。能够由法线矢量33a确定各平面33的姿势。若假设三维点31仅在各物体20的单一的表面测量而得,则如图7所示,该物体20的表面成为平面33。
平面33能够使用例如连结集合32所含有的全部三维点31、且由最小二乘法进行运算。此外,也可以另外进行某些离群值对策来求解平面33。作为离群值对策的方法,有M推断法、RANSAC、LMedS、霍夫变换等几种方法。通过导入霍夫变换等处理,从而即使在连结集合32横跨多个物品20的表面的情况下,也能够从其中抽出一个平面33而进行识别。在以后的处理,也可以将从平面33离开规定距离以上的三维点31从包含该三维点31的连结集合32中除去。
步骤S4中,对将属于连结集合32的三维点31垂直投影于与该连结集合32对应的平面33的投影点34的位置进行运算。图8是表示三维点31正投影于平面33的投影点34的一个例子的图。图8中,由空白圆形表示投影点34。此外,对于属于连结集合32的三维点31的个数比规定值少、即物品20的露出的面积比规定值小的连结集合32(例如图7的32a),还可以不进行步骤S4以后的处理,而仅在物品20的表面充分地露出的情况下,进行步骤S4以后的处理。由此减少机械手14取不到物品20的可能性,从而能够利用物品取出装置10实现高效的物品20的取出。
步骤S5中,在各平面33的整个范围地在各平面33上设定测量点,求解位于距离各测量点为规定距离内的投影点34的个数。该个数与各测量点的投影点34的密度对应,步骤S5中,对平面33上的投影点34的密度分布进行运算。由于投影点34与三维点31对应,所以能够将投影点34的密度分布认为是三维点31的密度分布。
图9是表示测量点35和投影点34的一个例子的图。图9中,在平面33上以网格状且等间隔地设定了测量点35。图9中,位于离测量点35a为规定距离r内的投影点34的数量、即以测量点35a为中心的半径r的圆37内所含有的投影点34的个数是9个。该情况下,例如将投影点35a的密度设为9。此外,也可以将用圆37的面积除以投影点34的个数所得的值作为密度。通过对全部测量点35进行这样的密度的计算,能够求解平面33上的投影点34的密度分布。也可以不在平面33上等间隔地设定测量点35,而例如在各投影点34设定测量点35。各测量点35之间的密度例如通过插补处理来求解,由此能够求解平面33整体的密度分布。
步骤S6中,基于在步骤S5中运算出的密度分布,对投影点34的密度成为极大的平面33上的点(密度极大点)的位置(密度极大位置)进行运算。此外,由于投影点34的密度分布与三维点31的密度分布对应,所以步骤S6的处理相当于对三维点31的密度成为极大的密度极大位置进行运算。密度极大位置能够通过比较平面33上的规定范围内的密度的大小、且对密度为最大的平面33上的位置进行运算来求解。在平面33上求出多个密度极大点的情况下,例如选择密度较大的一个,对密度极大位置进行运算即可。密度极大位置是代表连结集合32代表位置。
图10是表示密度极大点39的一个例子的图。密度极大点39是物品20的表面的三维点31密集的点。因此,即使物品20是L字型形状或其它的复杂形状,或者即使在物品20的中央(重心位置)开口有孔的情况下,密度极大点39也能总是存在于物品20的露出的表面上。此外,图10中,表示了密度极大点39相对于平面33的法线矢量39a。
步骤S7中,对能够取出位于密度极大位置的物品20的机械手14的位置以及姿势(机械手位置姿势38)进行运算。如图10所示,机械手位置姿势38由例如垂直交叉的一对箭头38a、38b表示,箭头38a、38b的交点表示机械手位置姿势38的位置,箭头38a、38b的朝向表示机械手位置姿势38的姿势。此外,图10中,为方便说明,机械手位置姿势38由2个箭头38a、38b表示,但机械手位置姿势38不是二维空间的而是三维空间内的姿势,实际上由三维的正交坐标系表示。不限定于正交坐标系,也能够由各种坐标系表示机械手位置姿势38。
一对箭头38a、38b的交点设定于沿法线矢量39a并从密度极大点39离开规定距离(例如图1的Δd)的位置。箭头38b与法线矢量39a平行,箭头38a与由三维点31求出的平面33平行。
步骤S8中,对各个机械手位置姿势38进行编号为P1、P2、…、Pn。其中,n是机械手位置姿势38的个数。图11是表示编号后的机械手位置姿势38的图,以相对于规定的坐标轴40的坐标值的降序进行编号,即从位于较高位置的位置姿势(z坐标较大)依次进行编号。除了坐标值的降序之外,编号的顺序也可以是形成连结集合32的面的面积大的顺序等、基于取得的三维点集合而以任意的方法决定的顺序。此外,图11中,n=3。
步骤S9中,对取自然数值的变量j给予初始值。即,j←1。变量j用于机械手位置姿势38的号码的指定。
步骤S10中,向机器人驱动用的驱动器(电动马达)输出控制信号,如图12所示,将机械手14移动至机械手位置姿势Pj(例如P1)。即,使机械手14的基准点14d与机械手位置姿势P1的箭头38a、38b的交点一致,并且使机械手14的轴线L0与箭头38b一致。由此,机械手14的吸附面14c配置为与应取出的物品20的表面平行。由于机械手位置姿势Pj以相对于规定的坐标轴40的降序进行编号,所以应取出的物品20是位于集装箱16内的最高位置的物品20。
步骤S11中,向机械手驱动用的驱动器输出用于保持物品20的控制信号。由此,物品20被机械手14的吸附面14c吸附并保持。由于吸附面14c与物品20的现实存在的表面对置地配置,所以能够用机械手14稳定地保持物品20。该情况下,例如,在机械手14具有吸引嘴的情况下,使真空泵动作,来以吸引力吸引并保持物品20。在机械手14具有吸附用磁铁的情况下,向电磁线圈流动电流而使磁铁动作,来以磁力吸附并保持物品20。
接下来,步骤S12中,向机器人驱动用的驱动器输出控制信号,如图13所示,使保持有物品21的机械手14沿规定方向例如规定的坐标轴40(图11)的方向、或者机械手位置姿势38的箭头38b方向(图12)上升。通过使机械手14沿规定方向上升,从而当由机器人12的动作使机械手14移动时,能够避免机械手14、物品21与其它的物品20碰撞。
步骤S13中,判定机械手14对物品21的保持是否成功。例如,在机械手14设置检测重量的重量检测器,当检测值为规定值以上的情况下,判定为保持成功。此外,在机械手14具有吸附用磁铁的情况下,用非接触传感器判定是否存在物品21,根据判定结果来判定保持是否成功即可。在机械手14具有吸引嘴的情况下,根据吸引时的气体的流量、压力的变化来判定保持是否成功即可。若判定为保持成功,则进入步骤S14。若判定为保持不成功,则进入步骤S15。
步骤S15中,判定是否j<n。该判定是在n个(图12中为3个)机械手位置姿势38中是否存在机械手14未到达的机械手位置姿势的判定。若判定为j<n,则机械手14未到达机械手位置姿势Pj+1,因而在步骤S16中j←j+1,并返回步骤S10。而且,如图14所示,利用机器人12的动作使机械手14向下一个机械手位置姿势Pj(例如P2)移动。接下来,向机械手驱动用的驱动器输出用于保持物品20的控制信号,来保持物品21(步骤S11)。若在步骤S15中判定为j≥n,则机械手14到达n个机械手位置姿势38的全部,从而进入步骤S14。
步骤S14中,向机器人驱动用驱动器输入控制信号,通过机器人12的动作将物品21搬运至规定位置,并从机械手14取下物品21。以上,1个循环的处理结束。
根据本实施方式能够起到以下的作用效果。
(1)在本实施方式中,用三维测定机11测定散乱堆积在三维点空间的多个物品20的表面位置并取得多个三维点31的位置信息(步骤S1),基于测定到的三维点31的位置信息,对表示三维空间内的三维点31的分布程度的密度分布进行运算(步骤S5),基于运算出的密度分布,对密度成为极大的密度极大位置进行运算(步骤S6),并基于该密度极大位置,对能够取出位于密度极大位置的物品20的机械手位置姿势38进行运算(步骤S7),并对机器人12进行控制以使机械手14向机械手位置姿势38移动来取出物品20(步骤S10~步骤S12)。
由此,能够不依赖于图形匹配等来确定物品20的位置以及姿势。因此,不需要制作物品20的模型图形,从而即使是多品种、不定形的物品20也能够容易地识别其位置以及姿势,而能够保持物品20。另外,对于追加的新品种的物品20也不需要追加模型图形便能够识别其位置以及姿势。因此,能够避免物品20的位置姿势的识别失败、误识别或者物品20的取不到、碰撞等问题,使机械手14向位于上方的容易取出的物品20高速地移动,而能够高效地取出物品20。并且,由于基于三维点31的密度高的密度极大位置来对机械手位置姿势38进行运算,所以能够使机械手14与物品20的表面可靠地接触。因此,即使在物品20呈L字形状的情况、在物品20的中央开口有孔的情况等,连结集合32的重心不位于物品20的表面上,也能够稳定地保持物品20。
(2)运算对由三维测定机11取得的多个三维点31进行近似的平面33(步骤S3),运算将多个三维点31投影于该平面33的投影点34的位置(步骤S4),求解位于平面33上的距离密度测量点35为规定距离r内的投影点34的个数,并根据该个数求解密度测量点35中的投影点34的密度,从而运算密度分布(步骤S5)。通过像这样将三维点31投影在平面33上,从而在物品20的表面会存在密度成为极大的位置。因此,能够用机械手14良好地吸附物品20的表面,从而提高物品取出装置10的取出物品的可靠性。与此相对,在不导入近似平面33的情况下,例如在物品20的角部存在密度成为极大的位置,而在这种情况下,难以用机械手14吸附物品20的角部。
(3)构成多个三维点31中的、连结相互位于附近的三维点31而成的连结集合(步骤S2),使用各连结集合32所含有的三维点31,对每个连结集合32运算密度分布(步骤S5),从而求出密度极大位置(步骤S6)。由于连结集合32是与各物品20对应的三维点31的集合,所以对每个物品20求解密度极大位置,从而能够用机械手14保持相互姿势不同的多个物品20。
(4)连结集合32由包含密度极大位置的平面33上的区域内的三维点31构成,基于连结集合32所含有的三维点31的位置信息,来对代表与各物品20对应的连结集合32的位置、即密度极大位置进行运算,并基于该代表位置(密度极大位置)和代表位置的周围的三维点31的位置信息(例如形成平面33的三维点31的位置信息),来运算出机械手位置姿势38(图12的箭头38a、38b的交点的位置以及箭头38a、38b的朝向)(步骤S7)。由此,对每个物品20运算机械手位置姿势38,从而能够稳定地保持各个物品20。
图15是表示图1的机器人控制装置13的内部结构的框图。机器人控制装置13具有密度运算部131、极大位置运算部132、机械手位置姿势运算部133、机器人控制部134、以及集合设定部135。密度运算部131具有面运算部131A和投影点运算部131B。
上述实施方式中,以平面33对由三维测定机11取得的多个三维点31进行了近似(步骤S3),但也可以以曲面进行近似,面运算部131A的结构不限定于上述的结构。因此,步骤S4中,也可以不在平面33投影多个三维点31,而在曲面投影多个三维点31,对投影点34的位置进行运算的投影点运算部131B的结构也不限定于上述结构。上述实施方式中,求出位于平面33上的距离密度测量点35为规定距离r内的投影点34的个数,并根据该个数求出密度测量点35中的投影点34的密度,并使用该密度对投影点34的密度分布进行了运算(步骤S5),但也可以不在平面、曲面投影三维点31,而对表示三维空间内的多个三维点31的分布程度的密度分布进行运算,并且若基于由三维测定机11测定到的位置信息来运算密度分布,则密度运算部131的结构也可以任意。
上述实施方式中,基于投影点34的密度分布,对投影点34的密度成为极大的密度极大位置进行了运算(步骤S6),但也可以不使用投影点34而基于三维点31的密度分布,对三维点31的密度成为极大的密度极大位置进行运算,并且极大位置运算部132的结构不限定于上述结构。
上述实施方式中,将机械手位置姿势38的位置设定在沿平面33的法线矢量39a而从密度极大点39离开规定量的点,并将机械手位置姿势38的姿势设定为与平面33以及法线矢量39a平行的方向(箭头38a、38b)(图10),但若基于由极大位置运算部132运算出的密度极大位置来设定机械手位置姿势38,则也可以将机械手位置姿势38设定为与上述不同的位置以及姿势,机械手位置姿势运算部133的结构不限定于上述结构。上述实施方式中,将能够取出位于密度极大位置的物品20的机械手14的位置姿势设为机械手位置姿势38,但也可以将能够取出位于密度极大位置的附近的物品20的位置姿势设为机械手位置姿势38。
上述实施方式中,以使机械手14的轴线L0以及基准点14d与机械手位置姿势38一致的方式控制了机器人12(步骤S10),但若以使机械手14向由机械手位置姿势运算部133运算出的机械手位置姿势38移动来取出物品20的方式对机器人12进行控制,则机器人控制部134的结构也可以任意。机械手14根据物品20的形状而适当地变更,本发明能够适用于上述以外的各种形状的物品20。
上述实施方式中,设定了多个三维点31中、连结相互位于附近的三维点31而成的连结集合32(步骤S2)。该连结集合32相当于由包含由极大位置运算部132运算的密度极大位置的区域内、即单一物品32的表面上的闭合区域内的三维点31构成的集合,但由相互位于附近的三维点31构成的集合也可以是连结集合32以外,集合设定部135的结构不限定于上述结构。
此外,用三维测定机11测定散乱堆积的多个物品20的表面位置,取得多个三维点31的位置信息,并基于由三维测定机11测定到的位置信息,对表示三维空间内的多个三维点31的分布程度的密度分布进行运算,并基于运算出的密度分布,对密度成为极大的密度极大位置进行运算,并基于运算出的密度极大位置,对能够取出位于密度极大位置或者其附近的物品20的机械手14的位置以及姿势、亦即机械手位置姿势38进行运算,并以使机械手14向运算出的机械手位置姿势38移动来取出物品20的方式对机器人12进行控制,只要是上述方案,则取出在三维空间散乱堆积的多个物品20的物品取出方法的结构也可以任意。
能够任意组合上述实施方式和变形例中的一个或者多个。
根据本发明,根据由三维点测定机取得的物品表面的多个三维点的位置信息,对表示三维点的分布程度的密度分布进行运算,并基于密度成为极大的密度极大位置来控制机械手的位置姿势。因此,不制作物品的模型图形便能够识别物品的位置以及姿势,从而即使是多品种、不定形的物品也能够容易地识别其位置以及姿势,而能够保持物品。由于密度极大位置存在于物品的表面上,所以能够使机械手与物品的表面可靠地抵接,从而提高物品取出作业的可靠性。
以上,与优选的实施方式关联地对本发明进行了说明,但在不脱离本发明权利要求书的公开范围的情况下能够进行各种修正以及变更,这是本领域技术人员应当理解的。
Claims (6)
1.一种物品取出装置,其特征在于,具备:
机器人(12),其具有能够保持物品(20)的机械手(14);
三维测定机(11),其测定在三维空间散乱堆积的多个物品的表面位置,并取得物品表面的多个三维点(31)的位置信息;
密度运算部(131),其基于由上述三维测定机测定到的位置信息,对表示三维空间内的上述多个三维点的分布程度的密度分布进行运算;
极大位置运算部(132),其基于由上述密度运算部运算出的密度分布,对密度成为极大的密度极大位置进行运算;
机械手位置姿势运算部(133),其基于由上述极大位置运算部运算出的密度极大位置,对能够取出位于该密度极大位置或者其附近的物品的上述机械手的位置以及姿势、亦即机械手位置姿势(38)进行运算;以及
机器人控制部(134),其以使上述机械手向由上述机械手位置姿势运算部运算出的机械手位置姿势移动来取出上述物品的方式对上述机器人进行控制。
2.根据权利要求1所述的物品取出装置,其特征在于,
上述密度运算部具有:
面运算部(131A),其用于对平面或者曲面进行运算,而上述平面或者曲面是将由上述三维测定机取得的多个三维点进行近似而得;和
投影点运算部(131B),其用于对投影点的位置进行运算,上述投影点的位置是将上述多个三维点投影在由上述面运算部运算出的平面或者曲面上而得,
求解位于上述平面或者曲面上的距离密度测量点为规定距离(r)内的上述投影点的个数,并根据该个数求解上述密度测量点中的投影点的密度,使用该密度对上述密度分布进行运算。
3.根据权利要求1或2所述的物品取出装置,其特征在于,
还具备集合设定部(135),其设定上述多个三维点中的、由相互位于附近的三维点(31)构成的集合(32),
上述密度运算部使用上述集合所含有的三维点,对每个上述集合运算上述密度分布,
上述极大位置运算部对每个上述集合运算密度极大位置。
4.根据权利要求3所述的物品取出装置,其特征在于,
上述集合是从上述多个三维点中连结相互位于附近的三维点而成的连结集合(32)。
5.根据权利要求1或2所述的物品取出装置,其特征在于,
还具备集合设定部(135),其设定由包含密度极大位置的区域内的三维点(31)构成的集合(32),上述密度极大位置由根据上述极大位置运算部运算,
上述密度运算部基于上述集合所含有的三维点的位置信息,对代表上述集合的代表位置进行运算,
上述机械手位置姿势运算部基于在上述密度运算部运算出的代表位置和该代表位置的周围的三维点的位置信息,对上述机械手位置姿势进行运算。
6.一种物品取出方法,其使用具有能够保持物品(20)的机械手(14)的机器人(12),取出在三维空间散乱堆积的多个物品,其特征在于,
用三维测定机(11)测定上述散乱堆积的多个物品的表面位置,取得物品表面的多个三维点(31)的位置信息,
基于由上述三维测定机测定到的位置信息,对表示三维空间内的上述多个三维点的分布程度的密度分布进行运算,
基于运算出的密度分布,对密度成为极大的密度极大位置进行运算,
基于运算出的上述密度极大位置,对能够取出位于该密度极大位置或者其附近的物品的上述机械手的位置以及姿势、亦即机械手位置姿势(38)进行运算,
以使上述机械手向运算出的上述机械手位置姿势移动来取出上述物品的方式对上述机器人进行控制。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013229616A JP5788461B2 (ja) | 2013-11-05 | 2013-11-05 | バラ積みされた物品をロボットで取出す装置及び方法 |
JP2013-229616 | 2013-11-05 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104608136A true CN104608136A (zh) | 2015-05-13 |
CN104608136B CN104608136B (zh) | 2016-06-08 |
Family
ID=52829835
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410569131.1A Active CN104608136B (zh) | 2013-11-05 | 2014-10-22 | 用机器人取出散乱堆积的物品的装置以及方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9434070B2 (zh) |
JP (1) | JP5788461B2 (zh) |
CN (1) | CN104608136B (zh) |
DE (1) | DE102014016032B4 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108313748A (zh) * | 2018-04-18 | 2018-07-24 | 上海发那科机器人有限公司 | 一种3d视觉纸箱拆垛系统 |
CN109835706A (zh) * | 2017-11-24 | 2019-06-04 | 发那科株式会社 | 工件配置系统 |
CN114286740A (zh) * | 2019-09-18 | 2022-04-05 | 株式会社富士 | 作业机器人以及作业系统 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107848654B (zh) * | 2015-06-12 | 2023-02-28 | Tgw物流集团有限公司 | 用于将货物拣选到袋子中的方法 |
JP6333871B2 (ja) * | 2016-02-25 | 2018-05-30 | ファナック株式会社 | 入力画像から検出した対象物を表示する画像処理装置 |
JP2018034242A (ja) * | 2016-08-31 | 2018-03-08 | セイコーエプソン株式会社 | ロボット制御装置、ロボット、及びロボットシステム |
AT519452B1 (de) | 2017-01-18 | 2018-07-15 | Tgw Logistics Group Gmbh | Verfahren und Vorrichtung zum Kommissionieren von Waren |
JP6450788B2 (ja) * | 2017-02-21 | 2019-01-09 | ファナック株式会社 | ワーク取出システム |
CN110740841B (zh) * | 2017-06-13 | 2023-10-27 | 川崎重工业株式会社 | 作业系统 |
US11312014B2 (en) | 2018-09-10 | 2022-04-26 | Kindred Systems Inc. | System and method for robotic gripping utilizing dynamic collision modeling for vacuum suction and finger control |
US11023730B1 (en) * | 2020-01-02 | 2021-06-01 | International Business Machines Corporation | Fine-grained visual recognition in mobile augmented reality |
JP7598627B2 (ja) * | 2021-01-19 | 2024-12-12 | 株式会社イシダ | 物品集積装置 |
US12172310B2 (en) * | 2021-06-29 | 2024-12-24 | Intrinsic Innovation Llc | Systems and methods for picking objects using 3-D geometry and segmentation |
CN115922738B (zh) * | 2023-03-09 | 2023-06-02 | 季华实验室 | 堆叠场景下的电子元器件抓取方法、装置、设备及介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002046865A (ja) * | 2000-08-02 | 2002-02-12 | Murata Mach Ltd | ワークピッキング装置 |
CN1162681C (zh) * | 1999-03-19 | 2004-08-18 | 松下电工株式会社 | 三维物体识别方法及使用该方法的零件抓取系统 |
CN101618544B (zh) * | 2008-07-04 | 2011-08-31 | 发那科株式会社 | 物品取出装置 |
CN102472612A (zh) * | 2010-07-27 | 2012-05-23 | 3维媒体有限公司 | 三维物体识别装置以及三维物体识别方法 |
JP2012183593A (ja) * | 2011-03-03 | 2012-09-27 | Kawasaki Heavy Ind Ltd | 電磁石ハンドおよびそれを用いたロボットシステム |
CN103085076A (zh) * | 2011-11-08 | 2013-05-08 | 发那科株式会社 | 物品的三维位置姿势的识别装置以及识别方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AT508465B1 (de) | 2009-07-10 | 2013-02-15 | Stiwa Holding Gmbh | Verfahren zur kontinuierlichen ermittlung einer greifposition |
JP5480667B2 (ja) | 2010-02-26 | 2014-04-23 | キヤノン株式会社 | 位置姿勢計測装置、位置姿勢計測方法、プログラム |
-
2013
- 2013-11-05 JP JP2013229616A patent/JP5788461B2/ja active Active
-
2014
- 2014-10-22 CN CN201410569131.1A patent/CN104608136B/zh active Active
- 2014-10-29 DE DE102014016032.7A patent/DE102014016032B4/de active Active
- 2014-11-04 US US14/532,710 patent/US9434070B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1162681C (zh) * | 1999-03-19 | 2004-08-18 | 松下电工株式会社 | 三维物体识别方法及使用该方法的零件抓取系统 |
JP2002046865A (ja) * | 2000-08-02 | 2002-02-12 | Murata Mach Ltd | ワークピッキング装置 |
CN101618544B (zh) * | 2008-07-04 | 2011-08-31 | 发那科株式会社 | 物品取出装置 |
CN102472612A (zh) * | 2010-07-27 | 2012-05-23 | 3维媒体有限公司 | 三维物体识别装置以及三维物体识别方法 |
JP2012183593A (ja) * | 2011-03-03 | 2012-09-27 | Kawasaki Heavy Ind Ltd | 電磁石ハンドおよびそれを用いたロボットシステム |
CN103085076A (zh) * | 2011-11-08 | 2013-05-08 | 发那科株式会社 | 物品的三维位置姿势的识别装置以及识别方法 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109835706A (zh) * | 2017-11-24 | 2019-06-04 | 发那科株式会社 | 工件配置系统 |
CN109835706B (zh) * | 2017-11-24 | 2020-11-20 | 发那科株式会社 | 工件配置系统 |
CN108313748A (zh) * | 2018-04-18 | 2018-07-24 | 上海发那科机器人有限公司 | 一种3d视觉纸箱拆垛系统 |
CN114286740A (zh) * | 2019-09-18 | 2022-04-05 | 株式会社富士 | 作业机器人以及作业系统 |
CN114286740B (zh) * | 2019-09-18 | 2024-02-27 | 株式会社富士 | 作业机器人以及作业系统 |
Also Published As
Publication number | Publication date |
---|---|
CN104608136B (zh) | 2016-06-08 |
US9434070B2 (en) | 2016-09-06 |
JP5788461B2 (ja) | 2015-09-30 |
US20150127161A1 (en) | 2015-05-07 |
DE102014016032B4 (de) | 2018-05-30 |
JP2015089591A (ja) | 2015-05-11 |
DE102014016032A1 (de) | 2015-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104608136B (zh) | 用机器人取出散乱堆积的物品的装置以及方法 | |
CN104608150A (zh) | 通过机器人取出放置在三维空间中的物品的装置及方法 | |
CN103659838A (zh) | 用机器人取出散装物品的装置和方法 | |
CN104608149A (zh) | 用机器人来取出散装物品的装置以及方法 | |
CN103568014B (zh) | 利用机械手取出散装的物品的装置以及方法 | |
CN104608126A (zh) | 用机器人取出散装物品的装置和方法 | |
CN109650292B (zh) | 一种智能叉车以及智能叉车的位置调整方法和介质 | |
CN103786153B (zh) | 物品取出装置及物品取出方法 | |
US9102055B1 (en) | Detection and reconstruction of an environment to facilitate robotic interaction with the environment | |
DE112019000172T5 (de) | Ein Robotersystem mit automatisiertem Paketabtast- und Registrierungsmechanismus und Verfahren zum Betreiben dieses Systems | |
US8150658B2 (en) | Three-dimensional object recognition system and inventory system using the same | |
CN104825101B (zh) | 机器人清洁器及其控制方法 | |
DE102020127473A1 (de) | Robotersystem mit wandbasiertem packmechanismus und verfahren zum betreiben dieses systems | |
CN103513981B (zh) | 引导移动设备的系统和方法 | |
CN103793936A (zh) | 用于增强现实的自动化参考框架校准 | |
KR20180091042A (ko) | 모터 구동 카트를 사용하는 창고 자동화 시스템들 및 방법들 | |
CN107324041A (zh) | 用于片盒夹持的机械手及自动片盒搬运装置 | |
CN111618848B (zh) | 多机器人的协作控制方法、装置及计算机设备 | |
JP2014091609A (ja) | 物品情報の表示装置 | |
US20180068158A1 (en) | Information processing device, information processing system, position reporting method, and program recording medium | |
CN104144865A (zh) | 用于运行药房拣选装置的方法 | |
CN104842347A (zh) | 防止搬送对象物的落下事故的机器人系统 | |
JP2023534795A (ja) | 自動帰還充電方法、装置、記憶媒体、充電台及びシステム | |
CN116902467A (zh) | 一种货箱定位方法、装置、设备和存储介质 | |
CN114065490A (zh) | 一种车辆轨迹跟踪的仿真方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |